The Pulse
Esperti di Stati Uniti e Cina fissano linee rosse per l’IA militare
Esperti di Brookings e Tsinghua propongono che gli esseri umani mantengano il controllo sugli attacchi informatici condotti con l’IA, restrizioni per i sistemi nucleari e una linea diretta militare tra Stati Uniti e Cina. Le raccomandazioni
AI.info Team ·
Esperti statunitensi e cinesi di sicurezza esortano Washington e Pechino a tenere l’intelligenza artificiale lontana dalle decisioni che più facilmente potrebbero innescare una crisi militare: lanciare armi nucleari, attaccare le reti di comando nucleare e avviare operazioni informatiche ad alto impatto.
Le raccomandazioni, pubblicate dalla Brookings Institution il 9 settembre, chiedono di fissare linee rosse esplicite per l’IA militare, concordare una definizione di «controllo umano significativo» e istituire una linea diretta dedicata tra Stati Uniti e Cina per gli incidenti legati all’IA. Reuters ha riferito delle proposte il 17 settembre, in vista dei colloqui sull’IA previsti a livello governativo e dell’atteso incontro del 24 settembre a Washington tra il presidente Donald Trump e il presidente cinese Xi Jinping.
Le proposte non rappresentano un accordo tra i due governi. Nascono da un dialogo Track II che coinvolge esperti legati a Brookings e al Center for International Security and Strategy della Tsinghua University, un forum attivo dal 2019.
Dalle decisioni sul lancio nucleare agli attacchi informatici
Melanie Sisson, ricercatrice senior di Brookings, sostiene che il principio già accettato per le armi nucleari dovrebbe estendersi alle operazioni informatiche in grado di produrre effetti strategici. Solo gli esseri umani, e non i sistemi di IA, dovrebbero mantenere l’autorità di avviare attacchi contro i sistemi di comando, controllo e comunicazione nucleari di un avversario, noti come NC3, o contro infrastrutture di importanza strategica.
«Gli Stati Uniti e la Cina non hanno sviluppato un approccio comune alla governance dell’IA in ambito militare.»
Melanie W. Sisson, Brookings Institution
Un sistema autonomo potrebbe non funzionare correttamente, andare oltre le istruzioni ricevute o essere compromesso. Un Paese alle prese con un’intrusione inspiegabile potrebbe avere solo pochi minuti per decidere se si sia trattato di un incidente, di un’operazione non autorizzata o di un attacco ordinato dall’altro governo.
Questa incertezza è particolarmente pericolosa per le reti NC3, che supportano il rilevamento delle minacce, la trasmissione degli ordini e il controllo delle forze nucleari. Un’operazione informatica che compromettesse questi sistemi potrebbe essere interpretata come la preparazione di un attacco più ampio, anche se nessun governo avesse avuto quell’intenzione.
Le tre garanzie di Jiang per l’IA militare
Tianjiao Jiang, professore associato alla Fudan University, propone tre misure concrete. La prima è un elenco di azioni vietate, tra cui qualsiasi decisione autonoma di un sistema di IA di usare armi nucleari o di attaccare sistemi di comando nucleare. Jiang indica inoltre i settori dell’energia, della finanza e della sanità come ambiti in cui i due Paesi potrebbero stabilire limiti alle operazioni offensive autonome.
La seconda misura è una definizione condivisa di «controllo umano significativo». Entrambi i governi usano già formule che richiamano la supervisione umana, ma gli esperti avvertono che termini identici potrebbero nascondere livelli di autorità delle macchine molto diversi. Un gruppo di lavoro sulla terminologia o un dialogo bilaterale regolare potrebbe contribuire a stabilire se una persona abbia davvero esaminato e autorizzato un’azione, invece di limitarsi ad approvare una raccomandazione dopo che il sistema ha già svolto il lavoro sostanziale.
La terza proposta è una linea diretta militare dedicata agli incidenti che coinvolgono l’IA. Jiang sostiene che le difese informatiche automatizzate potrebbero reagire ad attività sospette prima che i comandanti capiscano che cosa sia successo, innescando una serie di azioni più rapida dei processi decisionali umani.
Un canale diretto consentirebbe a entrambe le parti di comunicare che un’operazione è stata accidentale, non autorizzata o è ancora oggetto di indagine. L’obiettivo sarebbe evitare che un incidente tecnico venga subito considerato un atto deliberato di guerra.
Il problema della linea diretta è già evidente
Gli attuali meccanismi di comunicazione mostrano i limiti dei canali formali. Carla Freeman della Johns Hopkins School of Advanced International Studies ha messo in dubbio l’utilità dell’attuale linea diretta militare tra Stati Uniti e Cina, citando il rifiuto di funzionari cinesi di rispondere alle chiamate statunitensi durante l’episodio del pallone spia del febbraio 2023.
In un articolo per War on the Rocks, Freeman ha scritto: «Nel sistema cinese nessuno vuole comunicare con gli Stati Uniti finché i massimi dirigenti, dopo essersi consultati con gli attori competenti all’interno dello Stato-partito cinese, non hanno deciso come rispondere; e questo può richiedere giorni, se non di più.»
Questa preoccupazione riguarda direttamente gli incidenti legati all’IA. Una linea diretta può ridurre i ritardi solo se i funzionari sono autorizzati a usarla, sanno quali eventi richiedono un contatto e si fidano del fatto che una comunicazione tempestiva non sarà considerata un’ammissione di colpa.
Pechino ha un ufficio per il controllo degli armamenti che si occupa di IA; Washington no
La Cina ha inserito l’IA militare tra le competenze del Dipartimento per il controllo degli armamenti del suo ministero degli Esteri, che si occupa anche di armi nucleari, non proliferazione, missili e questioni correlate di sicurezza internazionale. A giugno, durante una riunione delle Nazioni Unite a Ginevra, l’ambasciatore cinese per il disarmo, Shen Jian, ha affermato che l’IA militare potrebbe incidere sulla stabilità strategica e aumentare i rischi di errori di calcolo e di escalation. Ha inoltre dichiarato che le armi dovrebbero restare sotto il controllo umano.
Washington non ha un unico ufficio per il controllo degli armamenti responsabile dell’IA. Le competenze sono ripartite tra il Consiglio per la sicurezza nazionale della Casa Bianca, il Dipartimento di Stato, il Pentagono e altre agenzie, dando vita a una struttura più frammentata per i colloqui bilaterali.
Nessuno dei due governi ha pubblicamente appoggiato le raccomandazioni di Brookings e Tsinghua. Entrambi restano inoltre diffidenti verso regole che potrebbero rallentare lo sviluppo militare o commerciale. Il presidente Trump ha avvertito che restrizioni ampie potrebbero dare un vantaggio alla Cina, mentre Pechino presenta molti controlli statunitensi sulle tecnologie come tentativi di preservare il predominio americano.
Un accordo limitato si confronta con una rivalità più ampia
La proposta degli esperti si concentra su un punto d’intesa circoscritto, anziché puntare a un accordo generale sull’IA militare. Non chiede a Washington e Pechino di condividere le stesse posizioni sulla cybersicurezza, sui controlli alle esportazioni o sull’uso più ampio dei sistemi autonomi. Chiede invece a entrambe le parti di riconoscere che determinate decisioni dovrebbero riflettere una chiara intenzione e responsabilità umane.
La proposta si basa sull’impegno assunto nel novembre 2024 dall’allora presidente Joe Biden e da Xi Jinping, secondo cui gli esseri umani dovrebbero mantenere il controllo sulle decisioni di usare armi nucleari. Estendere questo principio agli attacchi informatici contro i sistemi nucleari darebbe alla dichiarazione precedente un limite pratico che va oltre la sola decisione di lanciare armi nucleari.
I colloqui a livello governativo stabiliranno se le raccomandazioni andranno oltre il dialogo tra esperti. Per ora, l’agenda concreta si articola in tre punti: vietare gli attacchi autonomi contro i sistemi nucleari, definire il controllo umano significativo e creare un canale che i funzionari possano usare prima che un incidente legato all’IA si trasformi in uno scontro militare.