Etica e governance

L’IA nelle applicazioni militari: limiti etici e diritto internazionale

Il termine fissato dall’ONU per concordare uno strumento vincolante sulle armi autonome è scaduto nel 2026 senza che fosse raggiunto un accordo. Che cosa significano per l’attribuzione delle responsabilità la scadenza del mandato della CCW,

AI.info Team · 2026-08-06

Una decisione in venti secondi

Nella primavera del 2024, +972 Magazine e Local Call hanno pubblicato interviste a funzionari dell’intelligence israeliana che descrivevano un sistema chiamato Lavender. Nelle prime settimane della guerra tra Israele e Hamas, il sistema aveva segnalato fino a 37.000 palestinesi come sospetti membri di Hamas o della Jihad islamica palestinese e, di conseguenza, come potenziali bersagli di attacchi aerei.

Secondo i funzionari citati, la verifica umana dei risultati del sistema si riduceva spesso a un controllo formale di circa venti secondi, volto perlopiù a confermare che la persona segnalata fosse di sesso maschile, prima che la pratica passasse alla fase dell’attacco. Un sistema complementare noto come The Gospel produceva raccomandazioni per colpire strutture ed edifici associati a quelle persone.

Le Forze di difesa israeliane hanno contestato alcuni aspetti di queste ricostruzioni e sostengono che un analista umano esamini ogni bersaglio. Ma anche i resoconti più cauti convergono su un fatto preciso e inquietante: era il software a compiere la selezione, mentre la persona coinvolta nel processo era indotta, sul piano procedurale e psicologico, ad approvarla.

Questo è, in piccolo, il problema dell’attribuzione delle responsabilità nell’IA militare. La questione principale non è se una macchina sappia distinguere un combattente da un civile, benché farlo resti davvero difficile. La questione è che cosa accada al giudizio umano quando un algoritmo ha già svolto il lavoro cognitivo e a una persona si chiede soltanto di ratificarne il risultato sotto pressione.

Il diritto internazionale è stato scritto per un mondo in cui a premere il grilletto sono persone identificabili. Non è ancora attrezzato per un mondo in cui le decisioni sono prese in anticipo da modelli statistici e semplicemente controfirmate da un ufficiale che potrebbe non sapere come il sistema sia giunto alla sua conclusione, né avere una possibilità concreta di discostarsene.

Le norme che già abbiamo e i loro punti di tensione

Il diritto internazionale umanitario non presenta un vuoto normativo in materia di IA militare. Le regole fondamentali di distinzione, proporzionalità e precauzione negli attacchi, codificate nei Protocolli aggiuntivi del 1977 alle Convenzioni di Ginevra e presenti nel diritto consuetudinario, si applicano indipendentemente dalla tecnologia impiegata per individuare i bersagli. L’articolo 36 del Protocollo aggiuntivo I impone inoltre agli Stati di sottoporre a una verifica giuridica le nuove armi e i nuovi mezzi e metodi di guerra prima di impiegarli, per stabilire se il loro uso sarebbe vietato dal Protocollo o da altre norme applicabili.

Le difficoltà emergono nell’applicazione. Le verifiche previste dall’articolo 36 sono state concepite per armi fisiche, con raggi d’azione delle esplosioni conoscibili e modalità di guasto prevedibili, non per sistemi di apprendimento automatico il cui comportamento può cambiare con un nuovo addestramento, i cui errori statistici sono probabilistici anziché meccanici e i cui processi decisionali sono spesso opachi persino agli ingegneri che li hanno costruiti.

Lo Stockholm International Peace Research Institute e il Comitato internazionale della Croce Rossa hanno entrambi osservato che pochi Stati pubblicano la metodologia delle verifiche sulle proprie armi, tanto meno i risultati. Dall’esterno non c’è quindi modo di accertare se un sistema di individuazione dei bersagli autonomo o assistito dall’IA sia mai stato valutato secondo questi criteri.

Le verifiche nazionali sono inoltre, per loro natura, autovalutazioni: lo Stato che impiega il sistema è lo stesso che ne giudica la legittimità, senza controlli esterni né una sede in cui contestare un giudizio sfavorevole prima che l’arma venga utilizzata.

La lacuna giuridica più profonda riguarda le responsabilità a posteriori. Il diritto internazionale umanitario prevede la responsabilità penale individuale per i crimini di guerra e la responsabilità di comando quando un comandante non li previene o non li punisce. Entrambe le dottrine presuppongono che una persona abbia preso, o avrebbe dovuto prendere, una decisione che sia possibile ricostruire e giudicare. Quando la raccomandazione di colpire un bersaglio proviene da un modello addestrato sui modelli ricorrenti rilevati nelle comunicazioni intercettate e nei dati sugli spostamenti, e un essere umano la approva in pochi secondi senza una verifica indipendente, diventa davvero difficile individuare la decisione che un tribunale dovrebbe esaminare.

Diversi studiosi di diritto, tra cui ricercatori affiliati al Lieber Institute di West Point, hanno descritto questa situazione come una lacuna emergente nell’attribuzione delle responsabilità: non una zona senza leggi, ma una zona in cui i presupposti del diritto vigente riguardo alla possibilità di risalire a una persona responsabile della decisione non reggono più del tutto.

Due percorsi di governance, a velocità diverse

Due iniziative parallele cercano di colmare questa lacuna, ma divergono nettamente sul metodo.

Gli Stati Uniti hanno seguito un percorso che combina regolamentazione interna e diplomazia. Nel gennaio 2023 il Dipartimento della Difesa ha pubblicato la prima revisione di rilievo dal 2012 della direttiva DoD 3000.09, «Autonomy in Weapon Systems». La direttiva aggiornata richiede che i sistemi d’arma autonomi e semi-autonomi siano progettati in modo da consentire a comandanti e operatori di esercitare un livello adeguato di giudizio umano sull’uso della forza; impone la possibilità di rilevare e disattivare i sistemi che manifestano comportamenti imprevisti; e istituisce un Autonomous Weapon Systems Working Group di alto livello, composto da rappresentanti degli uffici responsabili delle politiche, delle acquisizioni, degli aspetti legali e dei test, incaricato di esaminare questi sistemi prima che entrino nella fase di sviluppo formale e di nuovo prima del loro impiego operativo.

È un vero meccanismo istituzionale, ma anche un meccanismo gestito internamente: il Pentagono esamina le armi del Pentagono e, secondo quanto riportato da DefenseScoop, dopo l’aggiornamento della direttiva il dipartimento ha in larga misura rifiutato di rendere noto quali sistemi specifici siano stati sottoposti alla procedura.

La direttiva è ora in fase di riscrittura. Nel giugno 2026 la Casa Bianca ha emanato il National Security Presidential Memorandum 11, che dispone una revisione della direttiva 3000.09 per accelerare l’adozione dell’IA. Poche settimane dopo, il senatore Ruben Gallego ha scritto al dipartimento mettendo in discussione il piano.

Washington ha poi portato questo modello all’estero. Al vertice Responsible AI in the Military Domain, tenutosi all’Aia nel febbraio 2023, gli Stati Uniti hanno presentato una Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy: una serie di impegni non vincolanti che comprendono il mantenimento del controllo umano sulle decisioni relative alle armi nucleari, l’esame dei sistemi di IA ad alto impatto da parte dei vertici e la sottoposizione dell’IA militare a test rigorosi.

Dopo alcune revisioni, nel novembre 2023 la dichiarazione aveva raccolto l’adesione di 45 Stati, tra cui la maggior parte dei membri della NATO, il Giappone, la Corea del Sud e Israele; altri vi hanno aderito in seguito. La Cina, in particolare, non vi ha aderito, e la dichiarazione non impone a nessuno obblighi esigibili: è una dichiarazione d’intenti, non un trattato, senza un sistema di verifica né sanzioni per uno Stato che vi aderisca e poi violi i propri impegni.

Poi lo slancio si è invertito, e Washington ha guidato l’inversione di rotta. Al terzo vertice REAIM, tenutosi ad A Coruña all’inizio di febbraio 2026, circa 35 Stati hanno approvato un testo intitolato Pathways to Action. Gli Stati Uniti, che nel 2023 avevano lanciato la dichiarazione, hanno rifiutato di firmarlo.

Il percorso delle Nazioni Unite ha puntato più in alto e proceduto più lentamente. Un Gruppo di esperti governativi istituito nel 2016 nell’ambito della Convenzione su alcune armi convenzionali si è riunito per negoziare, per consenso, i possibili elementi di uno strumento giuridico sui sistemi d’arma autonomi letali. Le sessioni del 2024 e del 2025 hanno prodotto un testo in continua revisione che, in una bozza del novembre 2024, conteneva formulazioni provvisorie sul divieto dei sistemi d’arma autonomi letali che operano senza un controllo e un giudizio umani adeguati al contesto, e sull’obbligo per gli Stati di garantire la responsabilità umana per il loro impiego.

Ma le regole della Convenzione richiedono il consenso di tutti gli Stati partecipanti, dando di fatto a ciascuno il potere di veto, e il gruppo non è arrivato a un trattato. Le sessioni del 2026 si sono concluse all’inizio di settembre con un consenso su una serie di elementi di uno strumento, ma senza un accordo su uno strumento vincolante. Il mandato è scaduto e la decisione è passata alla settima Conferenza di revisione della Convenzione, convocata a Ginevra dal 16 al 20 novembre 2026.

Nel 2023 il Segretario generale delle Nazioni Unite e la presidente del Comitato internazionale della Croce Rossa hanno chiesto congiuntamente agli Stati di negoziare uno strumento giuridicamente vincolante entro il 2026. Il 25 agosto 2026, trascorso quel termine senza che fosse stato raggiunto alcun accordo, hanno rinnovato l’appello.

«Siamo ormai pericolosamente vicini a oltrepassare una linea rossa morale: la selezione autonoma degli esseri umani come bersagli da parte delle macchine» — António Guterres e Mirjana Spoljaric Egger, Segretario generale delle Nazioni Unite e presidente del Comitato internazionale della Croce Rossa

La frustrazione per questa lentezza ha dato impulso a un’iniziativa parallela all’Assemblea generale delle Nazioni Unite. La prima risoluzione sui rischi dei sistemi d’arma autonomi letali è stata approvata nel dicembre 2023 con 152 voti a favore, 4 contrari e 11 astensioni. Un anno dopo il margine si è ampliato: il 2 dicembre 2024 l’Assemblea ha adottato la risoluzione 79/62 con 166 voti a favore, 3 contrari — Bielorussia, Corea del Nord e Russia — e 15 astensioni. Entrambe sono state chiare prese di posizione politiche, prive di forza vincolante.

La Campaign to Stop Killer Robots, una coalizione di oltre 270 organizzazioni non governative attive in circa 70 Paesi, insieme all’International Human Rights Clinic della Harvard Law School, ha proposto un trattato specifico fondato su un obbligo generale di mantenere un controllo umano significativo sull’uso della forza, un divieto assoluto delle armi che selezionano e colpiscono bersagli senza tale controllo e obblighi positivi per tutti gli altri sistemi di selezione dei bersagli. Nessuno Stato ha ancora accettato di negoziare quel testo.

Dove si spezza davvero la catena delle responsabilità

È nello scarto tra i principi dichiarati e la pratica sul campo di battaglia che si annida il rischio reale, e Gaza non è l’unico esempio. Project Maven, il programma del Pentagono per la visione artificiale e l’identificazione dei bersagli avviato nel 2017, è diventato un sistema ad ampio raggio a cui, secondo quanto riportato, viene attribuito un ruolo di supporto nella selezione dei bersagli per gli attacchi aerei statunitensi in Iraq, Siria e Yemen, oltre che nel tracciamento di mezzi navali ostili nel Mar Rosso durante il 2024. Funzionari hanno descritto un aumento drastico del numero di bersagli elaborati ogni giorno rispetto all’analisi manuale.

Da allora il suo status è stato formalizzato. In una nota datata 9 marzo 2026, il vicesegretario alla Difesa Steve Feinberg ha disposto che Maven Smart System, realizzato da Palantir, diventi un programma ufficiale esteso a tutto il dipartimento prima della fine dell’anno fiscale 2026, e ha scritto che il dipartimento deve «fare del processo decisionale basato sull’IA il cardine della nostra strategia per» Combined Joint All-Domain Command and Control.

Il Pentagono descrive Maven come uno strumento di supporto alle decisioni, non come un’arma che spara autonomamente. È una distinzione giuridicamente importante: la Direttiva 3000.09 e il dibattito sulle armi autonome riguardano sistemi che selezionano e colpiscono bersagli senza ulteriori interventi umani, mentre un sistema di raccomandazione sulla cui indicazione un essere umano deve ancora decidere se agire rientra in una categoria meno sottoposta a scrutinio, anche se la sua influenza sull’esito può essere altrettanto grande.

È proprio questa distinzione tra categorie la falla messa in luce dalle inchieste su Lavender e Gospel. Secondo quanto riportato, nessuno dei due sistemi ha sparato; entrambi, però, hanno orientato e, nella pratica, spesso determinato quali persone ed edifici un essere umano avrebbe poi autorizzato a colpire. Se il processo in cui sono inseriti riduce una valutazione autentica a una conferma di venti secondi, la presenza formale di un essere umano nel processo decisionale serve a poco per preservare il giudizio sostanziale richiesto dalle leggi di guerra, e ancora meno per mantenere una chiara catena di responsabilità individuali se l’attacco finisce per colpire il bersaglio sbagliato.

Un sistema di raccomandazione ritenuto sufficientemente affidabile, abbastanza rapido e le cui indicazioni siano abbastanza difficili da contraddire può produrre lo stesso vuoto di responsabilità della piena autonomia, senza mai ricadere nelle norme scritte specificamente per quest’ultima.

Dove tracciare il confine

Alla luce di tutto questo, non basta tracciare il confine chiedendosi soltanto se sia la macchina a premere il grilletto: le politiche dovrebbero smettere di considerare centrale questa distinzione. Dalle prove esposte sopra derivano tre posizioni.

Primo: il controllo umano significativo deve essere definito in termini operativi, non come un’aspirazione, e garantito attraverso requisiti minimi verificabili. Occorre un obbligo documentato, con tempi definiti, secondo cui una decisione umana sulla scelta di un bersaglio deve comprendere un esame indipendente delle prove su cui si fonda, non soltanto la conferma della conclusione dell’IA. Il tempo dedicato all’esame e le prove consultate devono essere registrati e messi a disposizione di chi indaga dopo un incidente e, nei casi opportuni, di organismi internazionali. Un’approvazione data senza un vero esame in venti secondi non soddisfa alcuna interpretazione onesta di cosa siano livelli adeguati di giudizio umano. Direttive come la 3000.09 dovrebbero dirlo esplicitamente, anziché lasciare che siano ufficiali sotto pressione a dover tenere il passo con il sistema.

Secondo: i sistemi di supporto alle decisioni che funzionano di fatto come strumenti di selezione dei bersagli — strumenti della classe di Maven, sistemi di valutazione della classe di Lavender — dovrebbero essere sottoposti allo stesso regime di revisione e divulgazione previsto per le armi autonome vere e proprie, perché il danno che possono arrecare alla possibilità di attribuire le responsabilità non è significativamente minore. Regolamentare soltanto le armi che sparano da sole, lasciando senza regole i sistemi che decidono, con un alto grado di certezza e su larga scala, contro chi sparare, significa operare una distinzione che non tiene conto della differenza importante per chi ne subisce le conseguenze.

Terzo: esaminare il proprio operato non equivale a risponderne. Il modello di revisione nazionale delle armi previsto dall’Articolo 36 e il gruppo di lavoro interno della DoD Directive 3000.09 sono utili garanzie amministrative, ma uno Stato che indaga sulle proprie armi e procedure e le approva, senza alcun obbligo di pubblicare i risultati, non è sottoposto a uno scrutinio indipendente.

Il processo della CCW, per quanto lento e vincolato al consenso, resta l’unica sede dotata della legittimità necessaria per stabilire uno standard minimo esterno condiviso, e nel novembre 2026 avrà un’altra occasione per farlo. Gli Stati che vi si oppongono dovrebbero essere indicati come il principale ostacolo a colmare il vuoto di responsabilità, non trattati come portatori di una posizione ragionevole fra varie posizioni ugualmente valide. L’elenco ora comprende gli Stati Uniti, che hanno redatto la dichiarazione volontaria e poi non hanno voluto firmare il testo di REAIM ad A Coruña, e la Cina, che non ha aderito a nessuno dei due.

La conclusione onesta non è che l’IA militare sia intrinsecamente illegittima o che si possa farla scomparire con un divieto: i comandanti sul campo continueranno a usare strumenti di riconoscimento di schemi perché funzionano, e nessun trattato potrà cancellare questo fatto. La conclusione onesta è che l’assetto attuale, in cui la velocità e la sofisticazione tecnica avanzano molto più rapidamente della verificabilità dei controlli umani predisposti intorno a questi sistemi e della possibilità di farli rispettare, produce esattamente il tipo di danno di cui nessuno risponde che il quadro delle Convenzioni di Ginevra è stato costruito per prevenire.

Colmare questo divario richiede di trattare il controllo umano significativo come un requisito misurabile di progettazione e di processo, dotato di meccanismi che permettano di farlo rispettare, non come una formula da evocare nei documenti programmatici. E richiede che gli Stati più impegnati nello sviluppo di questi sistemi accettino verifiche esterne, anziché continuare a valutare da soli il proprio operato.