The Pulse
I parlamentari britannici interrogano OpenAI, Anthropic, Google e Meta sulla sicurezza dell’IA
Una commissione della Camera dei Comuni interrogherà OpenAI, Anthropic, Google DeepMind e Meta sulla sicurezza dei modelli di frontiera e sulle verifiche indipendenti. L’audizione esaminerà anche se l’AI Security Institute britannico possa
AI.info Team · Scritto con l’IA ·
L’accesso ai test e il potere di fermare un rilascio
L’AI Security Institute britannico può valutare un modello di frontiera solo se chi lo sviluppa gli consente di accedervi, e l’istituto potrebbe non avere il potere di imporre tale accesso o di fermarne il lancio. Questa lacuna è al centro di una seduta della Commissione per le imprese, l’innovazione, la scienza e il commercio della Camera dei Comuni, prevista per martedì 13 ottobre, alla quale dovrebbero partecipare rappresentanti di Anthropic, OpenAI, Google DeepMind e Meta.
La commissione intende chiedere se i test indipendenti vengano condotti abbastanza presto da rilevare capacità pericolose o problemi di allineamento, se le aziende debbano essere soggette a obblighi di segnalazione e chi potrebbe fermare un rilascio qualora le verifiche di sicurezza facessero scattare un allarme. L’ordine del giorno pubblicato dalla commissione include anche la scelta tra regole volontarie del settore e una regolamentazione obbligatoria.
Il presidente della commissione, Liam Byrne, ha dichiarato: «Dobbiamo quindi chiarire chi controlla questi sistemi, quando iniziano i controlli e se gli esperti britannici di sicurezza abbiano il potere di lanciare l’allarme e impedire danni quando qualcosa va storto».
Quattro rappresentanti dei laboratori davanti alla commissione
Le audizioni sono suddivise in tre sessioni. Gli ex ricercatori di OpenAI e Anthropic Daniel Kokotajlo, Aengus Lynch, Steven Adler e Geoffrey Irving figurano tra i partecipanti alla sessione delle 2 del pomeriggio. La commissione prevede poi di ascoltare Lord Booth-Smith di Anthropic, Tom Duff Gordon di OpenAI, Owen Larter di Google DeepMind e Rob Sherman di Meta alle 3 del pomeriggio.
Alle 4 del pomeriggio è prevista la partecipazione del direttore dell’AI Security Institute Henry De Zoete, della segretaria permanente del Cabinet Office Cat Little e di Alexandra Jones del Dipartimento per le imprese, l’innovazione, la scienza e il commercio. La seduta è classificata come attività non legata a un’indagine formale: secondo il Parlamento, può riguardare una questione di attualità, ma non sfocia necessariamente in una relazione.
Per i ministri, garantire l’accesso è ancora un lavoro in corso
La preoccupazione della commissione per l’accesso ai test emerge mentre il governo illustra i propri sforzi per mantenerlo. In una dichiarazione scritta al Parlamento il 12 ottobre, il ministro per l’IA Kanishka Narayan ha affermato che il governo ha collaborato con i laboratori di IA e con il governo statunitense per conservare l’accesso dell’istituto ai modelli più potenti prima del loro rilascio.
Narayan ha detto che gli oltre 100 specialisti tecnici dell’istituto stavano valutando l’ultima generazione di modelli, tra cui Gemini 4 Argon. Ha inoltre presentato piani per dotarsi di una capacità di risposta agli incidenti nei casi gravi che coinvolgono agenti di IA e ha affermato che il governo stava valutando come il Cyber Security and Resilience Bill potesse affrontare meglio i rischi informatici e di perdita di controllo legati all’IA.
Le domande della commissione vanno oltre i test
L’avviso relativo all’audizione inquadra la discussione intorno al possibile comportamento di modelli fuori controllo e alla possibilità che le capacità pericolose progrediscano più rapidamente delle misure di controllo. Chiede inoltre se l’istituto britannico abbia autorità sufficiente per esaminare i modelli, sullo sfondo di quella che la commissione descrive come un’apparente politica statunitense volta a fermare il rilascio anticipato dei sistemi più capaci.
La commissione ha avviato separatamente una serie di domande scritte al ministro per l’IA Kanishka Narayan sull’approccio del governo. Le testimonianze previste di sviluppatori, ex ricercatori e funzionari porteranno la tensione centrale direttamente davanti alle persone coinvolte su entrambi i fronti: se si possa garantire l’accesso a test indipendenti e di quali poteri disponga la Gran Bretagna se un test individua un rischio grave.