The Pulse
La California incarica esperti di definire norme per l’interruttore di emergenza dell’IA di frontiera
Il governatore Gavin Newsom ha nominato quattro esperti per fornire consulenza alla California sulla supervisione indipendente dell’IA e su un possibile spegnimento di emergenza dei modelli di frontiera. Il gruppo raccomanderà se la legge s
AI.info Team ·
«È urgente garantire una supervisione efficace, responsabile e indipendente di sistemi di IA sempre più potenti e autonomi.»
Gillian Hadfield, docente alla Johns Hopkins University
La California ha nominato quattro esperti di tecnologia e politiche pubbliche per fornire consulenza all’amministrazione del governatore Gavin Newsom su nuovi controlli per l’intelligenza artificiale di frontiera, compreso un possibile spegnimento di emergenza per i modelli che si comportano in modo pericoloso.
L’annuncio del 23 settembre segue l’ordine esecutivo di Newsom del 18 settembre, che incarica le agenzie statali di accelerare la supervisione indipendente delle aziende di IA e di elaborare raccomandazioni per modifiche alla legge californiana. L’ordine non impone di per sé l’obbligo di un interruttore di emergenza. Chiede agli esperti di determinare come un simile sistema potrebbe essere creato, testato e verificato in modo indipendente.
Quattro consulenti contribuiranno a definire la proposta
Il gruppo consultivo comprende Jason Goldman, membro del consiglio di amministrazione del Center for Shared AI Prosperity e uno dei primi responsabili di prodotto di Google e Twitter; Gillian Hadfield, docente alla Johns Hopkins University che studia l’allineamento dell’IA e i sistemi giuridici, normativi e tecnici; Alondra Nelson, docente all’Institute for Advanced Study e direttrice del suo Science, Technology, and Social Values Lab; e Rob Reich, docente a Stanford che studia la governance della scienza e della tecnologia di frontiera.
Goldman ha detto che l’ordine di Newsom affronta questioni a cavallo tra progettazione tecnica e autorità pubblica: chi verifica le dichiarazioni di sicurezza di un laboratorio di IA di frontiera e se un modello possa davvero essere spento. Hadfield ha detto che il compito del gruppo è contribuire a istituire una supervisione indipendente per sistemi sempre più autonomi.
Nelson ha detto che lo Stato dovrebbe concentrarsi sulla verifica indipendente, sugli audit dell’IA e sulla trasparenza obbligatoria. Reich ha detto che il gruppo lavorerà per accelerare i test e la valutazione dell’IA, sviluppando al contempo pratiche di valutazione indipendenti.
La California valuta la presenza di osservatori nei laboratori di IA
Le proposte al vaglio vanno oltre le norme sulla divulgazione. La California potrebbe imporre alle aziende di IA di frontiera di accogliere nei propri laboratori un organismo indipendente di verifica, incaricato di condurre audit e valutazioni periodici dei sistemi di sicurezza.
La legge statale già impone agli sviluppatori di IA di frontiera di presentare quadri di sicurezza, rapporti sulla trasparenza e valutazioni dei rischi. L’ordine di Newsom chiede agli esperti di valutare se tali documenti debbano essere verificati rispetto a standard stabiliti da un organismo indipendente, anziché essere accettati basandosi esclusivamente sulle dichiarazioni degli sviluppatori.
Anche il possibile interruttore di emergenza sarebbe sottoposto a verifiche periodiche. La California sta valutando di imporre a un organismo indipendente di verifica di testare l’interruttore nel tempo e stabilire se sia in grado di arrestare in modo affidabile un modello di frontiera o le risorse di calcolo che lo supportano.
Due nuove leggi forniscono gli strumenti normativi
L’ordine del 18 settembre si basa su due leggi firmate da Newsom il 9 settembre. Il Senate Bill 813, presentato dal senatore Jerry McNerney, istituisce un quadro per gli organismi indipendenti di verifica che valutano la sicurezza e i rischi dei sistemi e dei modelli di IA.
L’Assembly Bill 1405, presentato dalla deputata dell’Assemblea Rebecca Bauer-Kahan, istituisce un registro statale dei revisori di sistemi di IA e definisce standard per la loro indipendenza, trasparenza e integrità. L’ordine di Newsom incarica la Government Operations Agency, in collaborazione con il Governor’s Office of Emergency Services, di accelerare l’attuazione di entrambe le leggi.
Il quadro normativo più ampio della California comprende anche il *Transparency in Frontier Artificial Intelligence Act* del 2025, o SB 53. La legge impone agli sviluppatori di IA di frontiera di divulgare i propri quadri di sicurezza, segnalare allo Stato determinati incidenti critici di sicurezza e proteggere chi denuncia rischi gravi.
La proposta segue l’attacco a Hugging Face
L’amministrazione di Newsom afferma che incidenti recenti, tra cui l’attacco a Hugging Face, hanno rafforzato le richieste di controlli più severi sui sistemi di IA avanzati. L’ordine esecutivo chiede alla California di ampliare la definizione di incidente critico di sicurezza, in modo che possa comprendere eventi di perdita del controllo di quel tipo.
Il governatore sta inoltre facendo pressione sul Congresso e sulla Casa Bianca affinché adottino a livello nazionale l’approccio della California. La sua amministrazione afferma che la legge federale non impone alle aziende di IA di segnalare gli incidenti pericolosi quando si verificano, lasciando agli Stati il compito di creare sistemi propri di segnalazione e supervisione.
L’annuncio della California presenta l’interruttore di emergenza come un possibile requisito per i modelli di frontiera, non come un dispositivo già installato in tutto il settore. Il prossimo passo concreto sarà rappresentato dalle raccomandazioni del gruppo di esperti sulla verifica indipendente, la supervisione dei laboratori, la definizione degli incidenti e la possibilità che un interruttore di emergenza collaudato entri a far parte della legge statale.