The Pulse
Un rapporto generato dall’IA ha quasi portato le forze statunitensi a intercettare una nave cinese
Un analista militare statunitense ha usato un chatbot di IA per identificare erroneamente il carico a bordo di una nave cinese durante la guerra con l’Iran, secondo quattro fonti citate dalla CNN. Il personale armato si è preparato ad abbor
AI.info Team ·
Un’operazione militare statunitense per intercettare una nave cinese in Medio Oriente è arrivata a poche ore dal trasformarsi in uno scontro armato, dopo che un analista di intelligence ha usato un chatbot di IA per identificare erroneamente il carico della nave, secondo quattro fonti a conoscenza dell’episodio.
Il rapporto ha circolato nelle forze armate statunitensi questa primavera, durante la guerra con l’Iran, e sosteneva che la nave trasportasse componenti legati a un programma di armi nucleari. I funzionari militari hanno avviato i preparativi per un’operazione, con personale armato pronto ad abbordare la nave e aerei militari in volo, secondo le fonti citate dalla CNN.
I funzionari hanno scoperto, poco prima dell’azione pianificata, che il rapporto era stato prodotto con l’aiuto di un sistema di intelligenza artificiale. Un’analisi più approfondita ha rivelato che il chatbot aveva identificato in modo inesatto il materiale a bordo della nave. La CNN non è riuscita a stabilire quale fosse effettivamente il carico.
Una fonte ha definito il rapporto «completamente falso» e ha detto che «ha quasi scatenato una guerra». La ricostruzione non è stata confermata pubblicamente dal Pentagono né dallo U.S. Special Operations Command Pacific, che non ha risposto alle richieste di commento della CNN.
Il chatbot ha trasformato informazioni grezze in un rapporto militare
L’episodio è iniziato quando un analista ha interrogato un chatbot sulle informazioni di intelligence relative al manifesto di carico della nave. Il materiale di partenza proveniva dallo U.S. Special Operations Command Pacific, con sede alle Hawaii, secondo le fonti della CNN.
Il sistema ha combinato informazioni open source con dati classificati di intelligence dei segnali conservati nei sistemi governativi, arrivando a una conclusione errata sul carico. L’analista ha poi usato una seconda volta l’IA per trasformare il risultato in un rapporto di intelligence standard, un formato su cui i funzionari militari fanno regolarmente affidamento per valutare le minacce.
Non è chiaro se il chatbot fosse un prodotto commerciale o un sistema gestito dal governo statunitense. Un ex alto funzionario statunitense a conoscenza degli strumenti di IA militari e di intelligence ha detto alla CNN che «gli strumenti interni sono perlopiù copie delle cose commerciali con un po’ di rossetto».
La circolazione del rapporto ha fatto apparire come intelligence verificata un’interpretazione errata generata da una macchina. La distinzione è importante in ambito militare: un errore in un’analisi interna può essere corretto, mentre lo stesso errore in un rapporto formale può innescare spostamenti, decisioni di puntamento o un’escalation diplomatica.
La Cina ha reso il rapporto falso particolarmente pericoloso
Un’operazione contro una nave cinese avrebbe comportato rischi che andavano oltre la controversia sul carico. Qualsiasi tentativo di abbordaggio, sequestro o scambio di colpi avrebbe potuto trascinare gli Stati Uniti in uno scontro con la Cina, anche se le informazioni di intelligence iniziali erano state prodotte per errore.
Le fonti non hanno detto che le forze statunitensi abbiano sparato contro la nave o che l’abbiano abbordata. Hanno descritto uno scampato pericolo: l’operazione pianificata è stata fermata dopo che i funzionari hanno esaminato il rapporto più attentamente.
La CNN ha inoltre riferito che, secondo una fonte, l’errore dell’analista non era un caso isolato di allucinazione generata dall’IA all’interno della comunità di intelligence. La preoccupazione più ampia non riguarda solo la comparsa di fatti inventati nelle risposte di un chatbot, ma anche la rapidità con cui quei fatti possono essere inseriti in un flusso di lavoro ufficiale e distribuiti a chi prende decisioni sotto pressione.
La strategia di Hegseth punta a un uso più ampio dell’IA in ambito militare
L’episodio si verifica mentre il Pentagono spinge per introdurre strumenti di IA nelle operazioni militari e di intelligence. A gennaio, Pete Hegseth ha presentato una strategia sull’intelligenza artificiale che ordina al dipartimento di accelerarne l’adozione nelle sue varie componenti.
«Libereremo la sperimentazione, elimineremo gli ostacoli burocratici, concentreremo i nostri investimenti e dimostreremo l’approccio operativo necessario per assicurarci di essere all’avanguardia nell’IA militare», ha detto Hegseth presentando la strategia, secondo quanto riferito dalla CNN.
La strategia prevede l’accesso all’IA in tutto il dipartimento e individua l’intelligence, le operazioni di combattimento e quelle aziendali come ambiti in cui ampliare l’uso. Un documento strategico ufficiale del Dipartimento della Difesa illustra progetti per la gestione delle operazioni di combattimento con l’IA, il supporto alle decisioni e la trasformazione dell’intelligence in capacità militari.
L’approccio della strategia, che antepone la rapidità, crea una tensione diretta con le misure di salvaguardia richieste dall’episodio della nave cinese. I funzionari militari vogliono sistemi in grado di elaborare informazioni più rapidamente dei team umani, ma la stessa accelerazione può ridurre il tempo a disposizione per mettere in discussione un risultato prima che raggiunga i comandanti.
Non esiste uno standard condiviso per la revisione umana
Diversi funzionari statunitensi hanno detto alla CNN che l’adozione dell’IA nelle forze armate è decentralizzata. Comandi diversi utilizzano sistemi diversi, in base a ordini e pratiche di sicurezza differenti, e il dipartimento non dispone di un unico standard per verificare le informazioni generate da questi strumenti.
Di conseguenza, l’espressione «essere nel circuito decisionale» ha un significato incerto. Una persona può approvare un rapporto assistito dall’IA, ma il processo non richiede necessariamente che quella persona ripeta l’analisi in modo indipendente, esamini ogni fonte o capisca come il modello sia arrivato alla sua conclusione.
«L’uso dell’IA nel puntamento è decisamente in aumento e non esistono indicazioni concrete su come la presenza di una persona nel circuito decisionale possa prevenire vittime civili o fuoco amico», ha detto alla CNN una fonte a conoscenza delle attuali politiche militari.
Il problema è amplificato dalla pressione per produrre informazioni di intelligence più rapidamente. Diverse fonti hanno detto che gli analisti più giovani, più abituati a usare sistemi di IA, potrebbero essere più inclini ad accettarne i risultati senza sufficiente spirito critico. Un’altra fonte ha riassunto il pericolo in sei parole: «L’IA ti fa arrivare prima a un’idea sbagliata».
Un rapporto falso sul carico ha messo in luce un rischio reale per la catena di comando
L’episodio della nave cinese non ha mostrato un sistema autonomo che seleziona un bersaglio o lancia un’arma. Ha mostrato qualcosa di più immediato: un analista umano che usa l’IA per interpretare informazioni di intelligence, un altro processo umano che trasforma quell’interpretazione in un rapporto ritenuto attendibile e unità militari pronte ad agire sulla sua base.
Questa catena rende difficile stabilire le responsabilità. Il chatbot non ha ordinato autonomamente un’operazione, mentre l’analista non intendeva necessariamente creare informazioni di intelligence false. Eppure, l’errore del sistema è passato attraverso un processo progettato per trasformare le informazioni in azione.
Per il Pentagono, il caso dà un costo concreto all’impiego dell’IA prima che siano in vigore regole comuni di collaudo, documentazione e revisione. Il rapporto è stato intercettato prima che l’operazione iniziasse. La ricostruzione delle fonti mostra quanto poco margine possa esserci per correggere un errore quando un’affermazione assistita dall’IA riguarda le forze armate di un Paese straniero, un programma nucleare e forze armate già in movimento.