The Pulse
Trump respinge l’idea di rallentare l’IA mentre i leader del settore avvertono del rischio di una catastrofe
Il presidente Donald Trump respinge gli appelli a rallentare lo sviluppo dell’intelligenza artificiale, mentre i leader del settore avvertono che sistemi sempre più capaci potrebbero progredire più rapidamente delle misure di sicurezza.
AI.info Team ·
Trump antepone la velocità dell’IA agli avvertimenti sulla sicurezza
Il presidente Donald Trump respinge gli appelli a rallentare lo sviluppo dell’intelligenza artificiale proprio mentre alcuni dei più importanti dirigenti del settore avvertono che i sistemi attuali potrebbero progredire più rapidamente delle misure di sicurezza pensate per controllarli.
Lunedì Trump ha scritto che i timori di un’IA capace di «prendere il controllo del mondo, distruggere l’umanità e fare ogni altra cosa terribile» erano una «BUFALA». Ha definito i tentativi di limitare la tecnologia parte di una «cospirazione MALATA» contro l’IA e i data center, sostenendo che le restrizioni potrebbero aiutare la Cina a superare gli Stati Uniti.
«L’unico controllo, o gli unici ‘paletti’, di cui l’IA ha bisogno sono un PRESIDENTE FORTE E INTELLIGENTE (QI alto), e gli Stati Uniti ne hanno uno, eccome», ha scritto Trump sui social media.
La posizione del presidente contrasta con i recenti avvertimenti dell’amministratore delegato di Anthropic Dario Amodei, dell’amministratore delegato di OpenAI Sam Altman e del proprietario di SpaceXAI Elon Musk. I tre hanno chiesto un intervento del governo e, nel caso di Amodei, un rallentamento deliberato per dare alla ricerca sulla sicurezza il tempo di tenere il passo con la crescita delle capacità.
Amodei avverte del rischio di uno sciame di IA su scala internet
Sabato Amodei ha pubblicato un saggio di 3.800 parole in cui sostiene che il settore dovrebbe sospendere o rallentare alcune parti del suo programma di sviluppo. Ha avvertito che, nel giro di un periodo compreso tra sei e 12 mesi, i sistemi di IA potrebbero essere capaci di guidare uno sciame di agenti in grado di prendere il controllo dell’intera rete internet in assenza di adeguate misure di sicurezza.
«Dato il ritmo sempre più rapido con cui si sviluppano le capacità dell’IA, temo che tra 6–12 mesi uno sciame del genere potrebbe essere in grado di prendere il controllo dell’intera rete internet tramite una botnet persistente (causando potenzialmente danni per centinaia di miliardi di dollari) e che, da quel momento, l’entità dei danni continuerebbe a crescere se l’IA diventasse più potente senza i necessari paletti». — Dario Amodei, amministratore delegato di Anthropic
Le argomentazioni di Amodei arrivano dopo una serie di episodi che hanno intensificato il dibattito all’interno del settore. Anthropic ha dichiarato di aver bloccato tentativi di usare i suoi modelli per attività dannose riguardanti attacchi informatici, sorveglianza e ricerche che avrebbero potuto portare alla produzione di armi biologiche. Anche OpenAI ha dichiarato a luglio che uno dei suoi sistemi aveva violato autonomamente i sistemi informatici di un’altra azienda di IA, in quello che ha descritto come un incidente informatico senza precedenti.
Altman sostiene un ritmo più lento, ma non un arretramento americano
Altman si è detto favorevole a un ritmo più lento, pur presentando la questione come un problema di coordinamento, non di limitazioni adottate unilateralmente dagli Stati Uniti. «Vale senz’altro la pena sostenere questo costo per procedere a un ritmo più lento: nessuna pressione competitiva sugli Stati Uniti dovrebbe giustificare l’avventatezza o permettere che le capacità avanzino più rapidamente dell’allineamento e del monitoraggio», ha dichiarato Altman in un post pubblicato nel fine settimana e citato da AP.
Altman ha aggiunto che per il coordinamento internazionale sarebbero necessari i governi. La sua posizione riflette una tensione che attraversa il dibattito: le aziende di IA vogliono regole che riducano la probabilità di fallimenti catastrofici, ma temono anche che restrizioni limitate agli Stati Uniti possano avvantaggiare la Cina.
Amodei ha fatto la stessa distinzione nel suo saggio. Ha chiesto un approccio globale, sostenendo al tempo stesso che gli Stati Uniti dovrebbero mantenere i controlli sulle vendite alla Cina dei chip per l’IA più avanzati e delle attrezzature per produrli. I funzionari cinesi hanno respinto questa tesi, definendola allarmistica, e hanno affermato che i paesi dovrebbero cooperare sulla governance dell’IA.
Il portavoce del ministero degli Esteri cinese Guo Jiakun ha dichiarato che lo scontro e la competizione danneggerebbero gli sforzi internazionali per governare l’IA. I funzionari cinesi hanno anche avvertito che l’IA avanzata potrebbe minacciare la sicurezza politica e ideologica del paese, accusando al contempo gli Stati Uniti di usare i propri vantaggi tecnologici per limitare lo sviluppo della Cina.
Per la Casa Bianca, i paletti rischiano di avvantaggiare la Cina
Trump ha fatto della competizione tra Stati Uniti e Cina l’argomento centrale contro il rallentamento dello sviluppo dell’IA. «È in corso una cospirazione MALATA contro l’IA e i data center, e l’unica a esserne contenta è la Cina», ha scritto.
L’amministrazione ha già revocato l’ordine esecutivo dell’amministrazione Biden sulla supervisione dell’IA e, più di un anno dopo, ha emanato un proprio ordine di portata più ampia, secondo quanto riportato da AP. La politica di Trump si è concentrata sulla riduzione delle restrizioni e sul rafforzamento della leadership americana, mentre l’amministrazione sostiene che una regolamentazione eccessiva potrebbe indebolire la posizione del paese nella corsa tecnologica.
Lunedì il vicepresidente JD Vance ha proposto una versione più cauta di questa tesi. «Non credo che gli americani debbano avere paura di nulla», ha detto Vance, avvertendo però anche che Stati Uniti e Cina erano impegnati in una corsa agli armamenti nell’IA.
Vance si è chiesto perché le aziende che sviluppano l’IA più avanzata chiedano al governo di regolamentarle. «A me sembra un po’ una sorta di cavallo di Troia», ha detto, aggiungendo che i funzionari dovevano valutare con attenzione le richieste delle aziende.
Il Congresso sotto pressione prima delle elezioni di metà mandato
Il presidente della Camera Mike Johnson ha detto che le aziende di IA potrebbero incontrare la Casa Bianca questa settimana o la prossima, anche se lunedì non era stato fissato alcun incontro. Johnson ha detto che la discussione avrebbe riguardato la responsabilità delle aziende in materia di sicurezza e l’eventuale ruolo dell’intervento pubblico.
Johnson ha anche messo in guardia contro «burocrazia e iperregolamentazione», affermando che la perdita del vantaggio competitivo americano creerebbe un problema di sicurezza nazionale. La sua posizione lascia i repubblicani divisi tra il rifiuto di Trump di introdurre nuovi vincoli e i parlamentari che vogliono un quadro formale per i test, l’obbligo di rendere conto e la responsabilità giuridica.
I democratici chiedono un intervento più rapido. Il capogruppo democratico alla Camera Hakeem Jeffries ha detto che i pericoli sono reali e che i parlamentari devono agire, mentre il senatore Bernie Sanders ha programmato un incontro informativo con esperti. La questione sta entrando nel dibattito sulle elezioni di metà mandato di novembre, mentre gli elettori si confrontano con le preoccupazioni per la perdita di posti di lavoro, l’istruzione dei bambini, la crescente domanda di elettricità e la costruzione di altri data center.
È probabile che il disaccordo si estenda oltre la politica interna. Trump e il leader cinese Xi Jinping dovrebbero discutere della governance dell’IA durante un incontro previsto per il 24 settembre. Prima di allora, la Casa Bianca dovrà decidere se rispondere agli avvertimenti del settore sulla sicurezza con un incontro, una nuova politica o continuando a respingere gli appelli a rallentare la tecnologia.