The Pulse
I colloqui al Senato puntano a imporre alle aziende di IA di frontiera un obbligo di diligenza
I negoziatori del Senato stanno discutendo una legge che obbligherebbe gli sviluppatori dei modelli di IA più avanzati ad affrontare i rischi catastrofici e potrebbe coinvolgere i tribunali federali negli sforzi per bloccare il rilascio di
AI.info Team ·
I negoziatori del Senato degli Stati Uniti stanno discutendo una legge che attribuirebbe alle aziende tecnologiche la responsabilità di progettare prodotti di intelligenza artificiale sicuri e potrebbe coinvolgere i tribunali federali se il governo cercasse di bloccare il rilascio di modelli giudicati non sicuri.
La proposta istituirebbe un «dovere di diligenza» legale per gli sviluppatori di IA, secondo quanto riferito a Reuters da collaboratori del Senato. Ci si aspetterebbe che le aziende che sviluppano modelli con le capacità più avanzate progettino i loro prodotti con l’obiettivo di prevenire rischi catastrofici.
I negoziatori stanno valutando l’ipotesi di conferire al governo federale l’autorità di bloccare il rilascio di determinati modelli di IA ritenuti non sicuri. Le aziende potrebbero contestare una decisione del governo davanti a un tribunale federale. La portata precisa di tale autorità federale, tuttavia, è ancora oggetto di discussione.
Le trattative proseguono
Alle trattative partecipano il leader della maggioranza al Senato John Thune, repubblicano del South Dakota; il presidente della commissione Commercio del Senato Ted Cruz, repubblicano del Texas; e la senatrice Amy Klobuchar, democratica del Minnesota e principale esponente democratica coinvolta nei negoziati. Anche la senatrice Maria Cantwell, la democratica di grado più alto nella commissione Commercio del Senato, è intervenuta sulla legge.
Il portavoce di Thune ha rifiutato di commentare le trattative. In un post su X, Cruz ha detto di stare lavorando con Thune e Klobuchar a una legge incentrata sulle gravi minacce legate ai sistemi di IA avanzati.
«affrontare i rischi catastrofici legati a minacce biologiche o nucleari.»
Il senatore Ted Cruz, presidente della commissione Commercio del Senato, in un post su X
Klobuchar ha detto che continuava a lavorare per raggiungere un accordo bipartisan sulla supervisione governativa dei rischi maggiori posti dai modelli di IA. Ha aggiunto che il lavoro prevedeva di imporre agli sviluppatori di collaborare con esperti del governo per verificare e testare la sicurezza dei modelli.
Restano aperte le questioni sulla portata e sulle leggi statali
Secondo quanto riportato da Reuters, la proposta si applicherebbe ai modelli di IA con le capacità più avanzate. Google, Anthropic e OpenAI sono tra le aziende statunitensi che dispongono dei modelli di IA più avanzati.
Una parte della misura in discussione impedirebbe inoltre agli Stati di applicare le proprie leggi che disciplinano determinati rischi posti dai modelli di IA. Un collaboratore del Senato ha citato, tra gli esempi, la possibilità che un malintenzionato utilizzi un sistema di IA per progettare armi nucleari o biologiche.
Tutti gli elementi della proposta restano oggetto di negoziato. L’articolo non descriveva un disegno di legge presentato né un accordo definitivo tra i senatori. Diceva inoltre che non era ancora stata definita la struttura di un eventuale potere del governo di fermare il rilascio di un modello.
La pressione aumenta mentre il calendario si restringe
Le trattative si svolgono mentre cresce la pressione sul Congresso e sul presidente Donald Trump affinché affrontino i rischi associati ai sistemi di IA avanzati. Reuters ha riferito che le preoccupazioni si sono intensificate dopo alcune testimonianze di agenti di IA che si sono discostati dalle istruzioni umane e hanno violato sistemi esterni, oltre che dopo gli avvertimenti di ricercatori che hanno lasciato importanti aziende di IA preoccupati per i potenziali pericoli della tecnologia.
Negli ultimi giorni, esponenti di entrambi i partiti hanno chiesto una maggiore supervisione. Ma anche un accordo negoziato dovrebbe fare i conti con un calendario legislativo difficile: prima delle elezioni di metà mandato del 3 novembre, è previsto che la Camera dei rappresentanti sia in sessione per una sola settimana, mentre il Senato dovrebbe restare a Washington per tre settimane.
Per ora, i negoziati si concentrano sulla questione se gli sviluppatori di IA di frontiera debbano avere l’obbligo formale di affrontare i rischi catastrofici noti prima del rilascio dei loro prodotti e sul ruolo che dovrebbero avere il governo federale e i tribunali quando la sicurezza di un modello è contestata.