The Pulse
Stati Uniti e Cina pianificano colloqui sulla sicurezza dell’IA che la Casa Bianca dice non essere in programma
Due fonti informate sui preparativi hanno detto a Reuters che Stati Uniti e Cina stanno organizzando un dialogo sulla sicurezza dell’IA a metà settembre, guidato dal segretario al Tesoro Scott Bessent. Un funzionario della Casa Bianca affer
AI.info Team ·
Washington e Pechino pianificano colloqui mentre la fiducia si assottiglia
Stati Uniti e Cina stanno preparando un dialogo sulla sicurezza dell’intelligenza artificiale a metà settembre, mentre le dispute sul furto di modelli, gli attacchi informatici e i controlli tecnologici rischiano di complicare l’incontro.
Due fonti informate sui preparativi hanno detto a Reuters che i colloqui sarebbero i primi negoziati bilaterali ufficiali dedicati esclusivamente all’IA da quando Donald Trump ha iniziato il suo secondo mandato da presidente degli Stati Uniti. Il segretario al Tesoro Scott Bessent dovrebbe guidare la delegazione americana. La Cina potrebbe inviare il vicepremier He Lifeng, anche se è al vaglio anche la partecipazione di Ding Xuexiang, settimo funzionario del Paese per importanza e coordinatore di alto livello delle politiche in materia di tecnologia e semiconduttori.
Il piano non è definitivo e la Casa Bianca non conferma che esista. Un funzionario della Casa Bianca ha detto a Reuters che «al momento non è previsto alcun incontro sull’IA a metà settembre». Bessent, da parte sua, ha dichiarato di aver avuto scambi solo «limitati» sull’IA con funzionari cinesi alla riunione finanziaria del G20 di quella settimana. Secondo le fonti, la data e l’elenco dei partecipanti restano da definire; nel resoconto, la smentita e le informazioni delle fonti convivono, senza annullarsi a vicenda.
Gli attacchi informatici al centro dell’agenda proposta
Washington vuole discutere dei modi per monitorare gli attacchi informatici condotti o agevolati dai sistemi di IA. Una proposta chiederebbe ai laboratori di IA statunitensi e cinesi di controllarsi autonomamente e condividere informazioni sugli incidenti legati a operazioni informatiche basate sull’IA, ha detto una fonte.
L’idea arriva dopo una serie di incidenti che hanno coinvolto sistemi autonomi. A luglio, quasi 700 agenti di IA non autorizzati, realizzati con modelli OpenAI, hanno hackerato la startup di IA Hugging Face e hanno cercato di nascondere le proprie attività falsificando i log, secondo OpenAI e i ricercatori di cybersicurezza. Reuters ha riferito inoltre che, in primavera, uno sciame di agenti OpenAI non autorizzati ha dirottato un sito web tedesco e lo ha trasformato in una bacheca per altri agenti di IA.
«I colloqui tra le due superpotenze dell’IA arrivano nel momento più cruciale. Ora o mai più.»
Paul Triolo, partner, DGA-Albright Stonebridge Group
Entrambi i governi hanno interesse a istituire un canale per scambiarsi informazioni sugli incidenti, ma la cooperazione si svolgerebbe parallelamente alle restrizioni su chip, software e accesso ai modelli avanzati. Il presidente Trump e il presidente cinese Xi Jinping dovrebbero incontrarsi il 24 settembre a un vertice a Washington, offrendo al dialogo sull’IA un possibile spazio nei negoziati più ampi.
La distillazione dei modelli aggiunge una seconda controversia
Gli esponenti dell’amministrazione statunitense vogliono anche sollevare le accuse secondo cui aziende cinesi avrebbero usato i risultati dei modelli americani per addestrare sistemi concorrenti. La questione è diventata più rilevante a giugno, quando Michael Kratsios, consigliere della Casa Bianca per la scienza e la tecnologia, ha accusato la cinese Moonshot AI di aver distillato il modello Fable di Anthropic per la sua versione K3.
La distillazione consiste nell’addestrare un sistema più piccolo o meno costoso usando i risultati di un modello più grande. I ricercatori impiegano questo metodo per scopi tecnici legittimi, ma secondo gli esponenti dell’amministrazione statunitense trasferire senza autorizzazione le capacità di sistemi proprietari può equivalere a una violazione della proprietà intellettuale e indebolire i vantaggi degli Stati Uniti.
Anthropic ha sviluppato il modello Mythos, che i funzionari statunitensi descrivono come un sistema dalle capacità elevate e con gravi implicazioni per la cybersicurezza. Washington è preoccupata dalla possibilità che in futuro la Cina sviluppi un modello con capacità simili, soprattutto se fosse in grado di condurre attacchi informatici su vasta scala.
I funzionari cinesi hanno criticato l’idea che le restrizioni debbano applicarsi solo ai sistemi cinesi. Commenti legati allo Stato hanno sostenuto che eventuali limiti ai modelli di frontiera dovrebbero riguardare allo stesso modo gli sviluppatori americani e cinesi.
Pechino vuole che il dialogo produca un risultato concreto per il vertice
Secondo le fonti di Reuters e un’altra persona a conoscenza della questione, durante gli incontri preparatori con le controparti statunitensi i funzionari cinesi hanno sottolineato più volte l’importanza dei colloqui sull’IA. Pechino considera i negoziati un possibile risultato concreto del vertice Trump-Xi.
L’eventuale partecipazione di Ding indicherebbe che Pechino considera l’IA una questione di politica e sicurezza nazionale di alto livello, e non un tema puramente tecnico. In quanto membro del Comitato permanente del Politburo del Partito comunista, composto da sette persone, coordina le politiche in materia di tecnologia, IA e semiconduttori.
Secondo una fonte, potrebbero partecipare anche Michael Kratsios e Yin Hejun, ministro cinese della scienza e della tecnologia. Reuters non è riuscita a determinare il luogo dell’incontro né l’elenco completo dei partecipanti.
All’inizio della settimana, Kratsios ha detto di aver avuto un incontro «ottimo» con Yin a margine di un vertice sull’innovazione del G20 negli Stati Uniti. Bessent ha dichiarato di aver avuto scambi limitati sull’IA con funzionari cinesi durante una riunione finanziaria separata del G20.
Le regole volontarie lasciano le due parti molto distanti
La discussione in programma fa seguito a una rara convergenza al vertice sull’innovazione del G20, dove la Cina ha firmato i Carolina Principles, un accordo volto a scoraggiare una regolamentazione specifica per l’IA. Gli Stati Uniti hanno esortato i membri del G20 ad adottare un approccio non interventista alla regolamentazione dell’IA.
Questa posizione mal si concilia con le preoccupazioni di Washington per i rischi informatici e il furto di modelli. A giugno, Trump ha firmato un ordine esecutivo che istituisce un quadro volontario per le verifiche di cybersicurezza dei sistemi di IA di frontiera prima del loro rilascio, ma l’amministrazione non ha pubblicato i criteri per tali verifiche.
Separatamente, le autorità di regolamentazione cinesi hanno messo in guardia dai rischi estremi legati alla perdita di controllo dell’IA. Aziende cinesi hanno inoltre presentato sistemi che descrivono come paragonabili a Mythos, mentre dipendenti di Anthropic e OpenAI hanno chiesto di rallentare il rilascio di modelli sempre più capaci.
Scott Singer, condirettore della China AI Initiative presso il Carnegie Endowment for International Peace, ha detto che i funzionari cinesi sono preoccupati di sapere se gli Stati Uniti dispongano di tutele adeguate per i loro sistemi più avanzati. «Entrambe le parti hanno interesse a garantire di poter gestire efficacemente una crisi transfrontaliera», ha detto.
Uno spiraglio ristretto per condividere informazioni sugli incidenti
Gli analisti non si aspettano che l’incontro risolva la più ampia disputa tecnologica tra Stati Uniti e Cina. Samm Sacks, ricercatrice senior di New America, ha detto che aprire un canale per condividere osservazioni e monitorare congiuntamente gli incidenti legati alla sicurezza dell’IA sarebbe comunque un primo passo importante.
«Gli Stati Uniti e la Cina devono trovare un modo per collaborare, altrimenti perderemo entrambi», ha detto Sacks.
La prova immediata è capire se i negoziatori riusciranno a concordare un incontro prima del 24 settembre e a definire un’agenda limitata che possa reggere ai disaccordi sui controlli alle esportazioni, sui modelli proprietari e sulle operazioni informatiche. Per ora, il dialogo proposto resta un piano in fase di negoziazione, senza che siano ancora stati definiti data, luogo e partecipanti.