The Pulse
Zuckerberg prende le distanze dalle richieste di un rallentamento coordinato dell’IA
Il CEO di Meta Mark Zuckerberg afferma che spetta alle singole aziende di IA decidere quando i loro sistemi sono sicuri, respingendo le richieste di un rallentamento coordinato dello sviluppo.
AI.info Team ·
Zuckerberg traccia una linea per la strategia di Meta sull’IA
Il CEO di Meta Mark Zuckerberg ha detto che spetta a ciascuna azienda di intelligenza artificiale assicurarsi che la propria tecnologia sia sicura, prendendo le distanze dagli appelli delle aziende rivali a rallentare in modo coordinato lo sviluppo dell’IA avanzata.
I commenti pubblicati da Zuckerberg sui social media sono arrivati dopo una proposta del CEO di Anthropic Dario Amodei, che ha rapidamente ricevuto il sostegno di leader del settore tecnologico, tra cui il CEO di OpenAI Sam Altman ed Elon Musk di SpaceXAI. Gli avvertimenti dei ricercatori sulle potenziali minacce dell’IA per l’umanità hanno alimentato il dibattito tra i leader del settore su come contenere al meglio la tecnologia prima che possa sfuggire al controllo umano.
Le aziende di IA sono già incentivate a sviluppare i propri modelli in sicurezza e rischiano responsabilità significative se i loro sistemi causano danni, ha detto Zuckerberg.
«Ogni laboratorio ha la responsabilità e l’incentivo a procedere al ritmo necessario per addestrare i propri modelli in sicurezza, e la possibilità di adottare misure autonome per assicurarsi che ciò avvenga», ha scritto Mark Zuckerberg, CEO di Meta, su X.
La proposta di Amodei chiede un coordinamento
Zuckerberg non ha menzionato Anthropic né altre aziende nel suo post. Ha scritto pochi giorni dopo che Amodei aveva delineato un piano in tre fasi per garantire la sicurezza dell’IA, che includeva una proposta affinché aziende e paesi coordinassero un rallentamento dello sviluppo dell’IA.
Il disaccordo riflette opinioni diverse sulla possibilità che le singole aziende gestiscano da sole i rischi o sulla necessità di limiti condivisi per il settore e i governi. La posizione di Zuckerberg lascia a ogni laboratorio di IA la responsabilità di decidere quando i propri sistemi sono abbastanza sicuri da essere addestrati o rilasciati.
Meta cita il rinvio di Muse
Zuckerberg ha detto che Meta ha rinviato di diversi mesi il rilascio del suo agente di IA Muse per garantirne la sicurezza e la protezione. Ha presentato la decisione come un esempio di un’azienda che sospende il proprio lavoro senza chiedere ai concorrenti di fare altrettanto.
«Non abbiamo chiesto a tutti gli altri di farlo prima di farlo noi», ha detto.
L’esempio sostiene l’argomentazione di Zuckerberg secondo cui le aziende possono rallentare o modificare il proprio lavoro quando i test sollevano preoccupazioni per la sicurezza. Con questo approccio, un’azienda non deve aspettare un accordo a livello di settore prima di rinviare un rilascio.
Al centro un’IA al servizio degli utenti
Zuckerberg ha anche sostenuto che le aziende dovrebbero dare priorità alla creazione di modelli di IA sicuri anziché di sistemi in grado di migliorarsi automaticamente. I ricercatori descrivono spesso questa capacità come auto-miglioramento ricorsivo, perché potrebbe consentire a un sistema di IA di apportare cambiamenti più rapidi alle proprie capacità.
«Destinare la stragrande maggioranza della potenza di calcolo a servire le persone, anziché lanciarsi nella corsa all’auto-miglioramento ricorsivo, è uno dei modi migliori per garantire che sviluppiamo questa tecnologia in sicurezza». — Mark Zuckerberg, CEO di Meta
I suoi commenti attribuiscono la responsabilità di gestire i rischi dell’IA alle singole aziende, anziché prevedere un calendario comune per lo sviluppo. La proposta di Amodei chiede un coordinamento tra aziende e governi, mentre Zuckerberg preferisce che ogni laboratorio prenda decisioni sulla base delle proprie valutazioni di sicurezza.