The Pulse
Re Carlo coinvolge quattro aziende di IA nei colloqui sulla sicurezza in Scozia
Re Carlo III incontra i rappresentanti di OpenAI, Anthropic, Google DeepMind e Nvidia a Dumfries House, in Scozia. I colloqui si concentrano su come mantenere l’IA avanzata allineata al benessere umano, agli interessi delle comunità e al mo
AI.info Team ·
Quattro grandi aziende di IA arrivano a Dumfries House
I rappresentanti di quattro delle aziende di IA più potenti al mondo incontreranno re Charles III in Scozia giovedì 17 settembre, per discutere di come l’intelligenza artificiale avanzata dovrebbe mettersi al servizio della società. All’incontro a Dumfries House, nell’Ayrshire, sede di The King’s Foundation, sono attese OpenAI, Anthropic, Google DeepMind e Nvidia.
OpenAI sarà rappresentata dalla direttrice finanziaria Sarah Friar. Anche Nvidia, Google DeepMind e Anthropic dovrebbero inviare dei rappresentanti, insieme a Kanishka Narayan, ministro britannico per l’intelligenza artificiale. L’incontro è stato convocato per discutere di come l’IA possa essere impiegata a vantaggio delle persone e per proteggere il mondo naturale, secondo l’Associated Press.
Il palazzo ha descritto l’incontro come un’occasione per promuovere il dibattito sui principi che potrebbero essere condivisi dalle aziende tecnologiche, dai ricercatori e dal pubblico più ampio. Non è atteso alcun accordo vincolante.
Charles chiede ai dirigenti di garantire controllo e rassicurazioni
Charles dovrebbe usare il suo discorso di apertura per riconoscere sia le promesse sia i pericoli dei sistemi di IA in rapida evoluzione. «Il rapido progresso dell’IA è intrigante e profondamente preoccupante in egual misura», dirà, secondo alcuni estratti diffusi prima dell’incontro.
«Chi, nel nostro mondo, dà valore alla nostra umanità e alla sua essenziale componente morale cerca con ansia da parte vostra la rassicurazione che non perderemo il controllo del nostro destino.»
Dichiarazioni di apertura attribuite a re Charles III, diffuse prima dell’incontro
Il re dirà anche ai dirigenti che la loro responsabilità va oltre la creazione di sistemi sempre più capaci. «Il compito che vi attende non consiste soltanto nel far progredire la tecnologia, ma nel garantire che rimanga saldamente al servizio dell’umanità, delle comunità e del mondo naturale», dovrebbe dire.
Un’altra preoccupazione è la crescita degli agenti autonomi di IA, in grado di agire su diversi servizi online con una supervisione umana limitata. Charles dovrebbe chiedere ai leader del settore come possano rassicurare il pubblico sul fatto che le persone non perderanno il controllo della propria vita a causa di questi sistemi.
Gli avvertimenti del settore rendono l’incontro più urgente
La discussione segue una serie di avvertimenti pubblici da parte di persone che lavorano nelle principali aziende di IA. Dario Amodei, amministratore delegato di Anthropic, ha sostenuto in un saggio pubblicato sabato che il settore potrebbe dover rallentare il proprio lavoro e dedicare più tempo alle misure di sicurezza.
Amodei ha avvertito che uno sciame di agenti di IA potrebbe finire per prendere il controllo di alcune parti di Internet, se gli sviluppatori non introducessero protezioni più solide. In seguito, l’amministratore delegato di OpenAI Sam Altman ha scritto sui social media che «il progresso dell’IA potrebbe andare molto male» e che rallentarlo «varrebbe ampiamente il costo».
Il dibattito si è intensificato dopo che il ricercatore di Anthropic Jacob Coxon ha annunciato le proprie dimissioni, mettendo in guardia dal sottovalutare la tecnologia. L’Associated Press ha riferito che Coxon ha detto che Anthropic e OpenAI stavano scommettendo sulla vita umana, anche se le aziende non hanno accettato che tale descrizione fosse un fatto accertato.
Il Regno Unito presenta la sicurezza dell’IA come un dovere pubblico
L’incontro si svolge anche mentre i funzionari britannici chiedono maggiore attenzione alla sicurezza nazionale e ai rischi sociali. Louise Haigh, prima segretaria del governo e di fatto vice prima ministra, ha dichiarato martedì che i ministri devono rispondere agli avvertimenti di chi sviluppa direttamente questi sistemi.
«Dobbiamo ascoltare gli avvertimenti di chi è in prima linea nello sviluppo di questa tecnologia. Se non verranno introdotte le giuste misure di protezione, ci saranno chiaramente enormi rischi per la nostra sicurezza nazionale e per la società.»
Louise Haigh, First Secretary of State for the United Kingdom (prima segretaria di Stato del Regno Unito)
Haigh ha detto che il Regno Unito era pronto a collaborare con partner internazionali per la sicurezza pubblica e nazionale. La Gran Bretagna ha un ruolo più limitato nella corsa commerciale rispetto a Stati Uniti e Cina, ma il suo AI Security Institute è ampiamente considerato un importante centro di ricerca, e il Paese continua a ospitare ricercatori di IA di spicco.
Il potere di convocazione della monarchia, non una decisione normativa
Charles ha usato la propria posizione per riunire imprenditori, ricercatori e responsabili delle politiche pubbliche in discussioni su temi come il clima, i sistemi alimentari e lo sviluppo sostenibile. Il suo ruolo nell’incontro sull’IA è quello di convocatore e figura pubblica, non di autorità di regolamentazione con potere sulle aziende presenti.
Questa distinzione limita ciò che l’incontro può ottenere nell’immediato. Ai dirigenti non viene chiesto di firmare un accordo pubblico e non ci si aspetta che l’incontro produca nuove regole. Il suo valore concreto dipenderà dalla capacità dei partecipanti di tradurre gli impegni generali per la dignità umana e la sicurezza pubblica in standard specifici per i test, l’implementazione e la supervisione.
Per ora, il messaggio più concreto da Dumfries House è quello che Charles intende rivolgere direttamente alle aziende che sviluppano questi sistemi: il progresso tecnico non basta, se le persone non possono mantenere il controllo sul loro funzionamento.