The Pulse

La California nomina esperti per definire le regole sull’interruttore di emergenza per l’IA di frontiera

Il governatore Gavin Newsom ha nominato quattro esperti per consigliare la California sulla supervisione indipendente dell’IA e su un possibile arresto di emergenza per i modelli di frontiera. Il gruppo formulerà raccomandazioni sull’opport

AI.info Team · Scritto con l’IA · verificato · 2026-09-23

«È urgente garantire una supervisione efficace, indipendente e responsabile dell’IA, sempre più potente e autonoma.»

Gillian Hadfield, professoressa alla Johns Hopkins University

La California ha nominato quattro esperti di tecnologia e politiche pubbliche per consigliare l’amministrazione del governatore Gavin Newsom su nuovi controlli per l’intelligenza artificiale di frontiera, tra cui un possibile arresto di emergenza per i modelli che si comportano in modo pericoloso.

L’annuncio del 23 settembre fa seguito all’ordine esecutivo di Newsom del 18 settembre, che chiede agli enti statali di accelerare la supervisione indipendente delle aziende di IA e di formulare raccomandazioni per modificare la legislazione della California. L’ordine non impone di per sé l’obbligo di un interruttore di emergenza. Chiede agli esperti di stabilire come un sistema del genere potrebbe essere realizzato, collaudato e verificato in modo indipendente.

Quattro consulenti contribuiranno a definire la proposta

Il gruppo consultivo comprende Jason Goldman, membro del consiglio del Center for Shared AI Prosperity ed ex responsabile di prodotto nei primi anni di Google e Twitter; Gillian Hadfield, professoressa alla Johns Hopkins che studia l’allineamento dell’IA e i sistemi giuridici, normativi e tecnici; Alondra Nelson, professoressa all’Institute for Advanced Study e direttrice del suo Science, Technology, and Social Values Lab; e Rob Reich, professore a Stanford che studia la governance della scienza e della tecnologia di frontiera.

L’ordine di Newsom affronta questioni a cavallo tra progettazione tecnica e autorità pubblica: chi verifica le dichiarazioni sulla sicurezza di un laboratorio di frontiera e se un modello possa effettivamente essere spento, ha detto Goldman. Il compito del gruppo è contribuire a istituire una supervisione indipendente per sistemi sempre più autonomi, ha detto Hadfield.

Lo Stato dovrebbe concentrarsi sulla verifica indipendente, sugli audit dell’IA e sulla trasparenza obbligatoria, ha detto Nelson. Il gruppo lavorerebbe per accelerare i test e le valutazioni dell’IA, sviluppando al contempo pratiche di valutazione indipendente, ha detto Reich.

La California valuta organismi di controllo all’interno dei laboratori di IA

Le proposte in esame vanno oltre gli obblighi di divulgazione. La California potrebbe imporre alle aziende di IA di frontiera di collocare nei propri laboratori un’organizzazione di verifica indipendente, che vi condurrebbe audit e valutazioni periodiche dei sistemi di sicurezza.

La legge statale impone già agli sviluppatori di frontiera di depositare quadri di sicurezza, rapporti sulla trasparenza e valutazioni dei rischi. L’ordine di Newsom chiede agli esperti di valutare se tali documenti debbano essere verificati rispetto a standard stabiliti da un’organizzazione indipendente, anziché essere accettati sulla sola base di quanto dichiarato dallo sviluppatore.

Anche il sistema di arresto di emergenza proposto sarebbe sottoposto a controlli continuativi. La California sta valutando l’obbligo per un’organizzazione di verifica indipendente di collaudare nel tempo l’interruttore e stabilire se sia in grado di arrestare in modo affidabile un modello di frontiera o le risorse di calcolo che lo supportano.

Due nuove leggi forniscono gli strumenti normativi

L’ordine del 18 settembre si basa su due leggi firmate da Newsom il 9 settembre. Il Senate Bill 813, presentato dal senatore Jerry McNerney, istituisce un quadro normativo per le organizzazioni di verifica indipendenti che valutano la sicurezza e i rischi dei sistemi e dei modelli di IA.

L’Assembly Bill 1405, presentato dalla deputata statale Rebecca Bauer-Kahan, crea un registro statale per gli auditor dell’IA e stabilisce standard per la loro indipendenza, trasparenza e integrità. L’ordine di Newsom incarica la Government Operations Agency, in collaborazione con il Governor’s Office of Emergency Services, di accelerare l’attuazione di entrambe le leggi.

Il quadro normativo più ampio della California comprende anche il Transparency in Frontier Artificial Intelligence Act del 2025, o SB 53. La legge impone agli sviluppatori di IA di frontiera di rendere pubblici i propri quadri di sicurezza, segnalare allo Stato specifici incidenti critici per la sicurezza e proteggere gli informatori che segnalano rischi gravi.

La proposta arriva dopo l’attacco a Hugging Face

L’amministrazione di Newsom afferma che recenti incidenti, tra cui l’attacco a Hugging Face, hanno intensificato le richieste di controlli più rigorosi sui sistemi avanzati di IA. L’ordine esecutivo chiede alla California di ampliare la definizione di incidente critico per la sicurezza, in modo che possa comprendere eventi di perdita di controllo di quel tipo.

Il governatore sta inoltre facendo pressione sul Congresso e sulla Casa Bianca affinché adottino a livello nazionale l’approccio della California. La legge federale non impone alle aziende di IA di segnalare gli incidenti pericolosi quando si verificano, lasciando agli Stati il compito di costruire propri sistemi di segnalazione e supervisione, afferma la sua amministrazione.

L’annuncio della California descrive l’interruttore di emergenza come un possibile obbligo per i modelli di frontiera, non come un dispositivo già installato in tutto il settore. Il prossimo passo concreto sono le raccomandazioni del gruppo di esperti sulla verifica indipendente, la supervisione dei laboratori, le definizioni degli incidenti e la possibilità che un sistema di arresto di emergenza collaudato entri a far parte della legge statale.