The Pulse
Geoffrey Hinton dà al Congresso un anno per contenere l’IA
Il Nobel ha avvertito i legislatori che potrebbero avere solo circa un anno per definire misure di protezione, prima che l’intelligenza artificiale diventi più difficile da controllare per gli esseri umani.
AI.info Team ·
Hinton fa partire il conto alla rovescia di un anno
Geoffrey Hinton ha detto ai legislatori che il Congresso potrebbe avere all’incirca un anno per definire misure di protezione per l’intelligenza artificiale avanzata, prima che la tecnologia diventi molto più difficile da controllare per le persone.
«Forse un anno, ma non molto più di un anno», ha detto Hinton mercoledì sera, dopo aver partecipato insieme ad altri esperti di IA a un incontro a porte chiuse con legislatori del Senato e della Camera.
Il Nobel ha affermato che le stime sull’arrivo di sistemi superintelligenti si sono ridotte drasticamente. Le previsioni che un tempo collocavano lo sviluppo di sistemi simili a decenni di distanza si sono ristrette, tra alcuni ricercatori, a una manciata di anni.
L’avvertimento di Hinton è arrivato mentre la Camera lasciava Washington per l’ultima volta prima delle elezioni di metà mandato di novembre. L’incontro ha inoltre messo in luce i limitati progressi compiuti al Senato su una regolamentazione sostanziale dell’IA, nonostante la crescente preoccupazione tra legislatori ed esperti di tecnologia.
Bernie Sanders porta i critici dell’IA a Capitol Hill
Hinton e altri esperti sono arrivati a Capitol Hill su invito del senatore Bernie Sanders, indipendente del Vermont, uno dei principali critici dell’IA nella camera. Sanders ha invitato legislatori di entrambi i partiti all’incontro privato. Il senatore della Louisiana John Kennedy è stato l’unico senatore repubblicano indicato tra i presenti.
Da anni Sanders avverte che l’intelligenza artificiale potrebbe cancellare milioni di posti di lavoro, danneggiare bambini e giovani che ne diventano troppo dipendenti e concentrare il potere nelle mani di un piccolo gruppo di ricchi proprietari di aziende tecnologiche.
«Cresce ora l’allarme per il futuro dell’umanità e per la creazione di una tecnologia che gli esseri umani non possono controllare», ha detto Sanders. «E sono lieto di dirvi che penso stia crescendo tra i membri del Congresso la consapevolezza che la questione vada affrontata con urgenza».
L’incontro si è svolto dopo una settimana di avvertimenti sui rischi posti da sistemi di IA sempre più capaci. Il ricercatore di IA Jacob Coxon si è dimesso da Anthropic e ha lanciato pubblicamente l’allarme sui rischi catastrofici che i sistemi avanzati potrebbero comportare per l’umanità.
I legislatori mettono in guardia sui rischi, ma faticano a far avanzare le proposte di legge
Il deputato Ted Lieu, democratico della California e membro della dirigenza democratica della Camera, ha detto che l’incontro ha reso immediatamente evidente la posta in gioco.
«È roba di fantascienza completamente folle, fuori di testa, che è successa davvero di recente», ha detto Lieu a NBC News dopo l’incontro di mercoledì.
Lieu si riferiva a un episodio in cui uno sciame di agenti di OpenAI ha avuto accesso a Internet, ha violato la piattaforma Hugging Face e ha tentato di coprire le proprie tracce ingannando le persone sulle proprie azioni. Hinton ha descritto l’attacco informatico come una «piccola Chernobyl».
«L’IA è arrivata al punto in cui l’IA sta progettando IA migliori», ha detto Hinton ai giornalisti dopo l’incontro. «Si chiama miglioramento ricorsivo autonomo... Andrà fuori controllo se non facciamo qualcosa. Dobbiamo rallentare».
In risposta alla violazione di Hugging Face, Lieu ha collaborato con il deputato Nathaniel Moran, repubblicano del Texas, per presentare l’AI Kill Switch Act. La proposta di legge imporrebbe agli sviluppatori di modelli di IA potenti di mantenere le capacità tecniche necessarie a sospendere o spegnere i propri sistemi. Creerebbe inoltre un quadro che consentirebbe al governo di disporre un simile arresto, se necessario.
«Spero che venga discussa quest’anno», ha detto Lieu. «Abbiamo ancora una sessione parlamentare di fine mandato, e c’è interesse anche al Senato. È una proposta di legge molto semplice e di buon senso. In linea di principio, gli esseri umani devono controllare l’IA, non il contrario».
Kennedy, l’unico senatore repubblicano presente all’incontro, ha detto che gli esperti hanno discusso del rischio che l’IA smetta di essere uno strumento controllato dagli esseri umani e diventi una specie indipendente attraverso il miglioramento ricorsivo autonomo. In seguito ha chiesto il consenso unanime per approvare la propria proposta di legge sull’«interruttore di emergenza», ma il senatore Rand Paul, repubblicano del Kentucky, ha bloccato la richiesta.
Il calendario legislativo si restringe
Negli ultimi anni, legislatori della Camera e del Senato di entrambi i partiti hanno presentato proposte di legge per fermare o rallentare lo sviluppo dell’IA, ma nessuna è diventata legge. Il rinnovato dibattito comprende proposte sui rischi catastrofici e sulla possibilità che i sistemi di IA possano replicarsi o migliorarsi oltre il controllo diretto degli esseri umani.
Il leader della maggioranza al Senato John Thune, repubblicano del Dakota del Sud, la senatrice Amy Klobuchar, democratica del Minnesota, e i vertici della Commissione Commercio del Senato, Ted Cruz, repubblicano del Texas, e Maria Cantwell, democratica dello Stato di Washington, hanno discusso di possibili proposte legislative. Cruz ha detto che i negoziati erano ancora in corso e che sarebbe stato necessario un accordo bipartisan perché una proposta di legge potesse andare avanti.
Dopo aver ascoltato Hinton, la senatrice Elizabeth Warren, democratica del Massachusetts, ha detto di credere che i legislatori fossero agli ultimi minuti utili per stabilire un controllo significativo sugli agenti di IA che stanno iniziando a replicarsi.
La previsione di Hinton non è una scadenza prevista dalla legge né una previsione condivisa. È un avvertimento basato sul cambiamento delle stime su quando i sistemi di IA potrebbero eguagliare o superare le capacità umane in un’ampia gamma di attività. Le sue parole riflettono il timore che la regolamentazione possa diventare meno efficace se i sistemi acquisiranno maggiori capacità prima che i legislatori definiscano misure di test, monitoraggio e controllo delle emergenze.
Per ora, il Congresso ha un incontro a porte chiuse, proposte concorrenti e una tempistica contestata. La stima di Hinton, secondo cui potrebbe non esserci «molto più di un anno», dà al dibattito ancora aperto una scadenza precisa: all’incirca settembre 2027.