The Pulse
OpenAI, Anthropic e Google discutono di sicurezza dell’IA da settimane
Chris Lehane, responsabile delle politiche globali di OpenAI, ha dichiarato che l’azienda discute di sicurezza dell’IA con Anthropic e Google DeepMind da diverse settimane, come ha riferito per prima Bloomberg.
AI.info Team ·
Chris Lehane, responsabile delle politiche globali di OpenAI, ha dichiarato ai giornalisti martedì 15 settembre che l’azienda collabora da diverse settimane con le rivali Anthropic e Google DeepMind sulla sicurezza dell’IA, come ha riferito per prima Bloomberg.
Secondo quanto riferito, Lehane si trova a Washington per lavorare con i legislatori statunitensi impegnati ad affrontare i rischi catastrofici associati all’intelligenza artificiale. La rivelazione arriva dopo un saggio del CEO di Anthropic Dario Amodei, in cui si chiede al settore di collaborare per rallentare lo sviluppo dell’IA di frontiera ed evitare rischi catastrofici.
Esponenti di spicco dell’IA, tra cui il CEO di OpenAI Sam Altman e il capo di Google DeepMind Demis Hassabis, hanno sostenuto l’appello all’azione di Amodei. Altman ha anche dichiarato che OpenAI affiancherà Anthropic nell’integrare nell’azienda valutatori terzi incaricati di monitorare la sicurezza.
Lehane conferma i colloqui
Lehane ha dichiarato che le tre aziende discutono di sicurezza dell’IA da diverse settimane. I colloqui si svolgono mentre le aziende che sviluppano sistemi di frontiera sono sotto pressione affinché mostrino come valuteranno le capacità pericolose e affronteranno i rischi gravi.
Alcuni partecipanti, tra cui Altman, hanno osservato che il coordinamento tra aziende di IA concorrenti potrebbe sollevare preoccupazioni sul piano antitrust, qualora si ritenesse che limiti la concorrenza. Nel suo saggio, Amodei ha proposto una deroga governativa circoscritta che consenta il coordinamento sulla sicurezza, ma secondo quanto riferito Lehane ha dichiarato che le aziende non ne hanno bisogno.
Nella stessa riunione di martedì, Lehane ha dichiarato che OpenAI sostiene una disposizione del FRONTIER Act che imporrebbe ai principali laboratori di frontiera di consentire a organizzazioni indipendenti di entrare nelle loro aziende per contribuire a determinare se i modelli vengono sviluppati in sicurezza.
«organizzazioni indipendenti di verifica»
Chris Lehane, responsabile delle politiche globali di OpenAI
Una proposta per un organismo di standardizzazione
La rivelazione conferma quanto riferito in precedenza sul fatto che le aziende stavano valutando modalità per collaborare sulla sicurezza dell’IA. In un’intervista rilasciata a Fortune alla fine della scorsa settimana, Altman aveva lasciato intendere di aver avuto colloqui privati con altri esponenti di spicco dell’IA.
The Information ha riferito che OpenAI, Anthropic e Google stanno collaborando alla creazione di un organismo di standardizzazione per il settore dell’IA. Secondo quanto riferito, Altman ha detto ai dipendenti che un organismo del genere dovrebbe essere istituito senza il sostegno del governo statunitense.
A luglio Hassabis ha esortato gli Stati Uniti a istituire un nuovo organismo di standardizzazione che funga da autorità di controllo sull’IA. L’organizzazione proposta avrebbe il potere di esaminare i modelli più avanzati al mondo e coordinare rallentamenti a livello di settore qualora i pericoli aumentassero.
Il dibattito sul rallentamento dello sviluppo dell’IA
Nel suo saggio, Amodei ha sostenuto che le aziende che sviluppano IA di frontiera dovrebbero collaborare per rallentarne lo sviluppo quando le misure di sicurezza non riescono a tenere il passo. La proposta riflette la crescente preoccupazione che il progresso tecnico possa superare la capacità delle aziende e delle autorità di regolamentazione di individuare e gestire i rischi catastrofici.
Il presidente Donald Trump ha liquidato le preoccupazioni sulla sicurezza definendole una bufala e si è opposto a norme più stringenti, sostenendo che qualsiasi rallentamento darebbe alla Cina un vantaggio nella competizione per sviluppare sistemi avanzati di IA. Anche il suo consulente per l’IA, David Sacks, ha dichiarato che i timori di un rischio esistenziale legato all’IA sono esagerati.
I colloqui tra OpenAI, Anthropic e Google DeepMind non hanno portato a un accordo pubblico per sospendere lo sviluppo dei modelli. Indicano invece una possibile collaborazione sulla valutazione indipendente, sugli standard di sicurezza e sulle risposte alle capacità pericolose, mentre le aziende continuano a competere nel mercato commerciale dell’IA.
TechCrunch ha contattato Anthropic, Google e OpenAI per un commento.