The Pulse
Sei aziende di IA firmano un accordo volontario sulla sicurezza con la Casa Bianca
OpenAI, Anthropic, Meta, Google, SpaceXAI e Nvidia hanno firmato il 29 settembre un accordo volontario sulla sicurezza dell’IA con l’amministrazione Trump. Il patto, di 308 parole, prevede protocolli di sicurezza e team interni di monitorag
AI.info Team · Scritto con l’IA ·
Sei aziende tecnologiche hanno firmato il 29 settembre un accordo volontario sulla sicurezza dell’IA con l’amministrazione Trump, ma il testo, di 308 parole, lascia senza risposta questioni fondamentali sulla supervisione. OpenAI, Anthropic, Meta, Google, SpaceXAI e Nvidia si sono impegnate ad adottare protocolli di sicurezza e a istituire team interni per monitorare i propri progressi. L’amministrazione non ha spiegato come verificherà che le aziende rispettino gli impegni.
Durante un evento alla Casa Bianca dopo la firma, il presidente Donald Trump ha definito l’accordo «quasi una costituzione» per la «Superintelligenza», il termine con cui l’amministrazione preferisce indicare l’IA. In seguito ha detto ai giornalisti: «Vedo un’enorme capacità di autoregolamentazione». L’impegno delle aziende arriva mentre Washington privilegia le misure di sicurezza promosse dal settore rispetto a nuovi obblighi imposti dal governo.
Sei aziende firmano un breve accordo volontario
L’accordo stabilisce impegni generali, anziché regole pubbliche dettagliate per i test o la rendicontazione. L’Associated Press ha riferito che il testo chiede ai laboratori di IA avanzata di seguire protocolli di sicurezza e istituire team interni, ma che l’amministrazione non ha fornito dettagli su come ne monitorerà l’attuazione. La formulazione del patto lascia alle aziende partecipanti gran parte della responsabilità di attuare e valutare le proprie misure di sicurezza.
Questa impostazione è diversa dagli impegni volontari assunti dalle principali aziende di IA durante la presidenza di Joe Biden, che comprendevano linee guida specifiche per i test e rapporti sulla trasparenza, secondo Sarah Myers West, ex consigliera senior per l’IA della Federal Trade Commission. Myers West, ora codirettrice esecutiva dell’organizzazione non profit AI Now, con sede a New York, ha dichiarato: «In tutti i casi, questo approccio di autoregolamentazione ha fatto sistematicamente una sola cosa: non ha funzionato».
Le aziende illustrano le proprie verifiche
Diversi firmatari hanno indicato misure che, a loro dire, stanno già adottando. Un portavoce di OpenAI ha detto all’AP che l’azienda si è impegnata a coinvolgere valutatori esterni e a finalizzare contratti con valutatori della sicurezza terzi. Google ha rimandato l’agenzia di stampa a un post del CEO Sundar Pichai in cui si descrivono test e valutazioni, oltre al lavoro per definire norme e rafforzare la fiducia del pubblico.
Meta ha dichiarato di aver aggiornato di recente gli standard per l’addestramento, la valutazione e il rilascio dei suoi modelli più avanzati. Un portavoce dell’azienda ha inoltre indicato gli sforzi per perfezionare la struttura di governance del consiglio di amministrazione. Anthropic ha detto all’AP che sta coinvolgendo valutatori indipendenti e discutendo possibili collaborazioni con associazioni di settore.
Queste dichiarazioni descrivono singole misure, ma non chiariscono chi giudicherà se le tutele funzionano né che cosa accadrà se si riveleranno insufficienti. La Casa Bianca ha ribadito le parole di Trump sull’equilibrio tra innovazione e sicurezza, ma non ha risposto direttamente alle domande dell’AP su come l’amministrazione monitorerà l’attuazione dell’accordo.
Gli investimenti nella difesa suscitano una reazione diversa
Mentre il patto attirava l’attenzione a Washington, fondatori di aziende di IA e investitori si sono riuniti a San Francisco per la Tech Week. Durante un evento di mercoledì dedicato alle opportunità di investimento, i relatori hanno elogiato il sostegno dell’amministrazione al settore. La loro attenzione era rivolta alle prospettive commerciali dei sistemi di difesa e sicurezza basati sull’IA, non a come sarebbe stato fatto rispettare il nuovo accordo.
Kyle Stanford, direttore della ricerca sul venture capital presso PitchBook, ha detto ai partecipanti al dibattito che il governo degli Stati Uniti stava destinando 1.000 miliardi di dollari alla spesa per la difesa, di cui 13,5 miliardi ai sistemi autonomi e all’IA. «Questo ha ovviamente attirato molti capitali nella spesa per le tecnologie della difesa, più di quanti ne abbiamo mai visti», ha affermato. Le sue parole hanno offerto una prospettiva sugli incentivi economici che circondano lo sviluppo dell’IA, mentre il governo attribuisce alle aziende che costruiscono questi sistemi una maggiore responsabilità per la sicurezza.
Una disputa interna a OpenAI rende la questione più pressante
Il patto arriva anche in un momento di dissenso pubblico all’interno delle aziende chiamate a vigilare sul proprio operato. Tre ricercatori di OpenAI hanno dichiarato che l’azienda li aveva licenziati, scrivendo che «la paura e regole poco chiare ostacolano il lavoro sulla sicurezza dell’IA». David Robinson, che aveva guidato parte del team di sicurezza di OpenAI prima di dimettersi di recente, ha criticato il ricorso alla supervisione affidata alle aziende stesse.
«Questo non sostituisce una legge vincolante e lascia molta libertà alle aziende», ha detto Robinson all’AP. Ha affermato che il tempo tra una generazione di modelli e la successiva si misura in settimane e ha messo in guardia da gravi sfide per la sicurezza nel prossimo futuro. Questa preoccupazione mal si concilia con un accordo che chiede ai laboratori di creare team interni di monitoraggio senza definire pubblicamente una procedura governativa per verificarne il lavoro.
La disputa fa sì che la promessa centrale del patto — che le aziende monitorino il proprio sviluppo dell’IA — dipenda dai team interni, dalle valutazioni proprie di ciascuna azienda e dalle verifiche esterne che ogni azienda deciderà di adottare. La Casa Bianca non ha ancora spiegato nel dettaglio come monitorerà l’attuazione dell’accordo da parte dei sei firmatari.