The Pulse
Newsom ordina la supervisione dell’IA in California e studia un interruttore di emergenza
Il governatore della California Gavin Newsom ha ordinato ai funzionari statali di accelerare la supervisione indipendente delle aziende che sviluppano IA di frontiera e di riunire esperti per elaborare raccomandazioni su un meccanismo di sp
AI.info Team ·
Il governatore della California Gavin Newsom ha chiesto alle agenzie statali di accelerare la supervisione indipendente delle aziende che sviluppano IA di frontiera e agli esperti di stabilire se i modelli avanzati debbano avere un «interruttore di emergenza». L’ordine esecutivo, emanato il 18 settembre, non impone subito l’obbligo di spegnimento. Dispone una revisione tecnica e giuridica che potrebbe portare a modifiche della legge statale.
L’ordine arriva dopo che la California ha approvato nuove leggi che istituiscono una supervisione indipendente dei sistemi di IA e dei revisori. Fa seguito anche a episodi recenti, tra cui l’attacco a Hugging Face, che hanno rilanciato le richieste di requisiti governativi più rigorosi per affrontare i rischi per la sicurezza e la protezione legati all’IA.
L’ordine di Newsom prevede una revisione di due mesi
L’ordine esecutivo incarica la Government Operations Agency, in consultazione con il Governor’s Office of Emergency Services, di riunire esperti nazionali e mettere a punto, entro due mesi, una guida per rafforzare le leggi della California sulla sicurezza e la protezione dell’IA.
La revisione valuterà se obbligare le aziende che sviluppano IA di frontiera a ospitare nei propri laboratori un’organizzazione indipendente di verifica designata, incaricata di condurre audit e valutazioni periodici. Esaminerà inoltre se i quadri di sicurezza, i rapporti sulla trasparenza e le valutazioni dei rischi che, in base alla legge statale, le aziende che sviluppano IA di frontiera sono tenute a presentare debbano essere verificati secondo standard stabiliti da un’organizzazione indipendente di verifica.
Una terza proposta promuoverebbe la creazione di un «interruttore di emergenza» per i modelli di frontiera, la cui efficacia sarebbe verificata periodicamente da un’organizzazione indipendente di verifica. L’ordine chiede inoltre ai funzionari di aggiornare la definizione di incidente critico per la sicurezza, includendovi gli incidenti di perdita di controllo come l’attacco a Hugging Face.
«Non aspetteremo a intervenire: accelereremo il nostro lavoro per una supervisione dell’IA sostanziale e responsabile, prima che sia troppo tardi. Agiremo con ponderazione, ma con urgenza; la posta in gioco è troppo alta per aspettare o rimandare l’intervento.»
Gavin Newsom, governatore della California
I revisori indipendenti sono già previsti dalla legge
L’ordine si basa su due leggi firmate da Newsom la settimana scorsa. Il Senate Bill 813 istituisce un quadro per le organizzazioni indipendenti di verifica, che possono valutare la sicurezza e i rischi dei sistemi e dei modelli di IA. L’Assembly Bill 1405 crea un registro statale dei revisori di IA e stabilisce standard per la loro indipendenza, trasparenza e integrità.
L’ordine di Newsom accelera l’attuazione di queste leggi e incarica al contempo gli esperti di valutare ulteriori requisiti. Le proposte includono la presenza di organizzazioni indipendenti nei laboratori delle aziende che sviluppano IA di frontiera, la verifica dei documenti aziendali sulla sicurezza e lo sviluppo di un meccanismo di spegnimento d’emergenza per i modelli di frontiera.
L’ordine distingue quindi l’attuazione amministrativa dalle possibili modifiche alla legge statale. Le agenzie della California devono portare avanti il quadro di supervisione già approvato, mentre l’interruttore di emergenza proposto, i revisori presenti in loco e l’ampliamento degli obblighi di segnalazione degli incidenti restano raccomandazioni per rafforzare le norme dello Stato.
Gli incidenti recenti legati all’IA spingono la revisione
L’ordine esecutivo arriva dopo quelli che l’ufficio del governatore definisce episodi allarmanti riguardanti la sicurezza e la protezione dell’IA. L’annuncio cita in particolare l’attacco a Hugging Face e afferma che la California dovrebbe valutare l’ampliamento della definizione di incidente critico per la sicurezza, includendovi gli eventi di perdita di controllo.
L’ordine non afferma che una specifica azienda di IA abbia causato quegli incidenti. Chiede agli esperti di valutare se le leggi vigenti in California debbano affrontare una gamma più ampia di malfunzionamenti che coinvolgono i sistemi di IA di frontiera.
Il California’s Transparency in Frontier Artificial Intelligence Act, Senate Bill 53, impone agli sviluppatori di IA di frontiera di rendere pubblici i quadri di sicurezza, segnalare allo Stato determinati incidenti critici per la sicurezza e proteggere chi denuncia rischi gravi. Il nuovo ordine chiede se le definizioni dello Stato debbano essere aggiornate per includere ulteriori incidenti di perdita di controllo.
La California vuole che le sue norme siano adottate anche fuori dallo Stato
Newsom presenta l’approccio della California come un possibile modello per la politica nazionale. Il suo ufficio invita il Congresso e il presidente Donald Trump a esaminare e adottare il quadro dello Stato, oppure a usarlo come base nazionale.
Il risultato immediato è una procedura di revisione, non un meccanismo funzionante in grado di spegnere un modello di frontiera. Entro due mesi, gli esperti dovrebbero presentare una guida sulle possibili modifiche alle leggi della California in materia di sicurezza e protezione dell’IA, compresi la possibilità di sviluppare un meccanismo di spegnimento d’emergenza e i modi in cui le organizzazioni indipendenti potrebbero verificarne il funzionamento. Eventuali requisiti vincolanti arriverebbero in seguito, tramite una legge o un ulteriore intervento dello Stato.