The Pulse
Cantwell chiede verifiche indipendenti prima del rilascio dei modelli di IA di frontiera
Il 7 ottobre 2026 la senatrice Maria Cantwell ha delineato un quadro federale in sei punti per l’IA di frontiera. La proposta prevede standard del NIST, verifiche indipendenti prima del rilascio dei modelli interessati, la segnalazione degl
AI.info Team · Scritto con l’IA ·
Sei principi sono alla base del quadro federale per l’IA di frontiera proposto dalla senatrice Maria Cantwell, tra cui l’obbligo per i modelli interessati di superare una verifica indipendente prima del rilascio. In una dichiarazione diffusa il 7 ottobre, la democratica dello Stato di Washington ha chiesto standard di sicurezza vincolanti, test continui, informazioni fornite dagli sviluppatori e conseguenze per le gravi mancanze. Il piano è un quadro di governance, non un disegno di legge con scadenze o soglie specifiche per stabilire quali modelli vi rientrino.
Il NIST definirebbe gli standard; i revisori ne verificherebbero il rispetto
Cantwell vuole che il National Institute of Standards and Technology elabori, insieme ad altre agenzie federali, requisiti misurabili e basati sul rischio. Gli standard riguarderebbero i sistemi di IA capaci di causare danni catastrofici, tra cui attacchi informatici, minacce chimiche, biologiche, radiologiche e nucleari, perdita del controllo umano e agenti autonomi che sfuggono ad ambienti di test sicuri. Chiede inoltre una vigilanza rafforzata sui sistemi dotati di capacità pericolose o di capacità di auto-miglioramento che potrebbero aggirare i controlli di sicurezza.
Secondo la proposta, i modelli interessati non potrebbero essere rilasciati finché una verifica indipendente non avesse confermato il rispetto delle misure di sicurezza applicabili. Le agenzie governative e gli esperti indipendenti sottoporrebbero continuamente questi sistemi a test e prove di stress, prestando particolare attenzione alle valutazioni che richiedono competenze specialistiche, informazioni sensibili o strutture sicure. Cantwell paragona le verifiche sugli sviluppatori di IA alle revisioni esterne dei bilanci aziendali e afferma che i revisori dovrebbero avere l’accesso necessario per valutare i rischi e verificare le tutele.
Il quadro proposto prevede anche standard specifici per i modelli open source, pensati per ridurre il rischio di usi impropri catastrofici e al tempo stesso fornire indicazioni più chiare agli sviluppatori. I requisiti federali dovrebbero essere aggiornati regolarmente al mutare delle capacità dell’IA. La dichiarazione non definisce quali modelli rientrerebbero nell’ambito di applicazione né precisa con quale frequenza si svolgerebbero le verifiche.
Gli sviluppatori dovrebbero segnalare le gravi mancanze e comunicare i rischi rilevanti
Secondo le proposte in materia di responsabilità, gli sviluppatori dovrebbero segnalare tempestivamente gli incidenti gravi, tra cui la perdita del controllo sugli agenti autonomi, capacità informatiche pericolose, il mancato funzionamento delle misure di sicurezza e l’auto-miglioramento ricorsivo non sicuro. Dovrebbero inoltre fornire comunicazioni in linguaggio semplice sui rischi rilevanti per la sicurezza e la protezione dei sistemi e sulle misure adottate per mitigarli. I tester e i revisori indipendenti qualificati riceverebbero le informazioni e l’accesso necessari per indagare sugli incidenti e valutare le misure di sicurezza.
«Per gestire i rischi dei sistemi di IA avanzati servono standard di sicurezza chiari, test continui e la segnalazione delle gravi mancanze», ha dichiarato Cantwell. Secondo il quadro proposto, gli sviluppatori dovrebbero restare soggetti alle norme civili e penali applicabili per danni prevedibili e condotte illecite quando la progettazione, la distribuzione o la modifica dei loro sistemi, oppure il mancato ricorso a ragionevoli misure di sicurezza, contribuisce in modo rilevante al danno. La proposta chiede inoltre tutele contro le ritorsioni per dipendenti e collaboratori che segnalano problemi relativi alla sicurezza, alla protezione dei sistemi o al rispetto delle norme.
Il quadro va oltre i test sui modelli
I sei principi di Cantwell si estendono alla collaborazione tra pubblico e privato sull’IA difensiva, sull’accesso alle risorse di calcolo e sulla resilienza locale. Cantwell vuole che le agenzie federali e le aziende di IA sviluppino strumenti per rilevare attività malevole, correggere vulnerabilità informatiche e proteggere le infrastrutture critiche. Le aziende leader metterebbero a disposizione risorse di calcolo, competenze e strumenti difensivi per le imprese più piccole, le istituzioni pubbliche e i gestori delle infrastrutture; governo e industria amplierebbero inoltre l’accesso alle risorse di calcolo avanzate per le università e la ricerca di interesse pubblico.
La proposta affronta le conseguenze per i lavoratori, i minori e le persone soggette a decisioni importanti. Chiede formazione e apprendistati per aiutare i lavoratori ad adattarsi, misure di tutela per i minori che usano prodotti di IA e un’effettiva supervisione umana quando l’IA contribuisce a decisioni su occupazione, assistenza sanitaria o credito. Le persone dovrebbero essere informate quando l’IA ha inciso in modo rilevante su una decisione di questo tipo, poter contestarne l’esito e ottenere un riesame tempestivo da parte di una persona qualificata a prendere la decisione.
Il coordinamento globale comprende un canale di crisi tra Stati Uniti e Cina
In materia di politica internazionale, Cantwell propone standard comuni di sicurezza e protezione dei sistemi con gli alleati degli Stati Uniti, meccanismi condivisi per segnalare gli incidenti gravi e un ruolo di primo piano degli Stati Uniti negli organismi di normazione come ISO/IEC. Il suo quadro prevede anche un canale sicuro tra Stati Uniti e Cina per comunicazioni rapide qualora un incidente legato all’IA o la perdita del controllo di un sistema minacci la sicurezza internazionale. Collega i controlli sulle esportazioni all’obiettivo di impedire che le tecnologie avanzate statunitensi raggiungano gli avversari o siano dirottate verso usi impropri.
La dichiarazione delinea un programma ampio, ma lascia aperte questioni fondamentali per l’attuazione: quali sistemi sarebbero sottoposti a verifiche prima del rilascio, chi avrebbe i requisiti per operare come revisore indipendente e quali poteri di applicazione sarebbero previsti? Da queste scelte dipenderà il funzionamento concreto dei requisiti proposti per la definizione degli standard e lo svolgimento dei test.