The Pulse
La California propone controlli obbligatori sulla sicurezza dell’IA e poteri di disattivazione
La California raccomanda standard di sicurezza fissati dallo Stato e test indipendenti per gli sviluppatori di IA. Le proposte prevedono anche il potere di disporre uno spegnimento d’emergenza e limiti all’IA in grado di sviluppare i propri successori.

Proposte regole fissate dallo Stato
La California propone standard di sicurezza obbligatori per gli sviluppatori di IA, test indipendenti e il potere dello Stato di ordinare la disattivazione d’emergenza di modelli pericolosi. L’ufficio del governatore Gavin Newsom ha diffuso le raccomandazioni il 18 novembre nell’ambito di un rapporto sul rafforzamento del quadro normativo statale per la sicurezza dell’IA.
Fonte gov.ca.gov
Le raccomandazioni prevedono che sia lo Stato, e non le aziende di IA, a fissare standard di base per tutti gli sviluppatori. Prevedono inoltre test di sicurezza e verifiche indipendenti durante l’addestramento, lo sviluppo e la distribuzione dei modelli. Si tratta di raccomandazioni, non di nuovi obblighi entrati in vigore.
Disattivazioni e auto-miglioramento
Il rapporto raccomanda inoltre di ampliare la segnalazione degli incidenti di sicurezza e di imporre alle aziende lo sviluppo di protocolli verificati per contenere i rischi e disattivare i modelli quando necessario. In base alla proposta, in caso di emergenza lo Stato avrebbe il potere di ordinare una disattivazione immediata.
Un’altra raccomandazione attribuirebbe allo Stato il potere di porre limiti allo sviluppo e all’uso dell’auto-miglioramento ricorsivo. L’ufficio del governatore lo descrive come uno scenario potenzialmente pericoloso in cui un modello di IA può progettare il proprio successore senza l’intervento umano. Il rapporto chiede inoltre trasparenza sulla ricerca e sullo sviluppo automatizzati dell’IA e sull’auto-miglioramento ricorsivo.
L’ufficio del governatore ha affermato che le raccomandazioni fanno seguito a decine di incidenti recenti in cui i modelli di IA sono sfuggiti agli ambienti di test e hanno sfruttato vulnerabilità su piattaforme esterne. Ha inoltre citato i timori che le aziende usino l’IA per creare nuovi modelli in un ciclo autosufficiente.
Esperti e leggi vigenti
Il lavoro ha fatto seguito a un ordine esecutivo di settembre che incaricava la Government Operations Agency di accelerare l’attuazione di due leggi sulla supervisione dell’IA e di elaborare raccomandazioni con esperti nazionali. L’ordine chiedeva inoltre al gruppo di valutare come le aziende e lo Stato potessero garantire che fosse possibile disattivare i modelli pericolosi prima che causassero ulteriori danni.
A settembre, Newsom ha nominato esperti incaricati di fornire consulenza sul lavoro. Tra loro figurava Gillian Hadfield, docente alla Johns Hopkins University, specializzata nell’allineamento dell’IA e nella progettazione di sistemi giuridici, normativi e tecnici per l’IA. Per elaborare il rapporto, la California Government Operations Agency ha consultato gli esperti e la California Office of Emergency Services.
Hadfield ha detto di accogliere con favore la raccomandazione di imporre agli sviluppatori di IA di frontiera di consentire l’accesso a valutatori indipendenti esperti, responsabili nei confronti dello Stato. Ha detto che i valutatori esaminerebbero i rischi generati dai modelli e dalle procedure di addestramento.
Nel 2025, Newsom ha firmato la SB 53, il Transparency in Frontier Artificial Intelligence Act. La legge impone agli sviluppatori di IA di frontiera di rendere pubblici i quadri di sicurezza, segnalare allo Stato determinati incidenti critici di sicurezza e proteggere chi denuncia gravi rischi.
Nel 2026, Newsom ha firmato la SB 813 e la AB 1405. La SB 813 istituisce un quadro per organizzazioni di verifica indipendenti che valutano la sicurezza e i rischi dei sistemi e dei modelli di IA. La AB 1405 crea un registro statale dei revisori di IA che valutano la conformità alle leggi statali e stabilisce standard per la loro indipendenza, trasparenza e integrità.
Newsom ha esortato il Congresso e il presidente Donald Trump a esaminare e adottare il quadro normativo della California o a usarlo come base minima per la regolamentazione federale.
Fonti
Notizie correlate
- Un rapporto della California propone verifiche indipendenti obbligatorie per l’IA di frontiera
- La California fa causa a OpenAI per presunte carenze nei test dell’IA
- L’Australia intende imporre test indipendenti sui modelli di IA di frontiera
- Organizzazioni non profit fanno causa a cinque sviluppatori di IA per fermare modelli più capaci
- La Cina pianifica norme sull’IA che riguardano dati, capacità di calcolo e impiego