The Pulse
La Commissione di The Lancet indica l’IA usata a fini malevoli come rischio di estinzione
Una commissione di The Lancet identifica l’uso malevolo dell’intelligenza artificiale e un conflitto nucleare come minacce che potrebbero causare l’estinzione dell’umanità entro il 2100. Secondo la sua valutazione, intervenire per ridurre i
AI.info Team · Scritto con l’IA ·
Una commissione di The Lancet, in un rapporto pubblicato il 10 ottobre, colloca l’uso malevolo dell’intelligenza artificiale nella stessa categoria di potenziale estinzione di un conflitto nucleare, pur affermando che la probabilità di entrambi resta bassa. L’accostamento indica la gravità massima delle possibili conseguenze, non prevede che una delle due catastrofi sia probabile. La Commissione mette inoltre in guardia dal considerare le sue categorie di minaccia come una graduatoria fissa delle priorità politiche.
Il rapporto, presentato l’11 ottobre al World Health Summit di Berlino, esamina 17 minacce alla salute e alla sopravvivenza umana nel periodo tra il 2025 e il 2100. Secondo gli autori, governi, finanziatori e industria dispongono di strumenti concreti per ridurre i rischi, ma la valutazione presenta l’uso malevolo dell’IA come un pericolo la cui possibile portata richiede attenzione, pur in un quadro di profonda incertezza.
Potenziale di estinzione, non una graduatoria delle probabilità
La Commissione ha esaminato centinaia di possibili minacce e ne ha individuate 17 che soddisfacevano i suoi criteri di rischio catastrofico: la minaccia poteva comportare la perdita di almeno un miliardo di anni di vita corretti per disabilità entro il 2100, esistevano dati sufficienti per modellarla e un intervento politico poteva fare la differenza. L’elenco comprende tecnologia e conflitti, oltre a rischi sanitari e sociali già noti, tra cui pandemie di origine naturale, cambiamento climatico, inquinamento atmosferico, malnutrizione infantile, obesità e disuguaglianza di reddito.
Per ogni minaccia, l’analisi confronta uno scenario futuro plausibile nel caso migliore con uno scenario futuro plausibile nel caso peggiore. La differenza, misurata in anni di vita corretti per disabilità, rappresenta la perdita di salute che interventi mirati potrebbero evitare. Un DALY è un anno di vita in buona salute perso a causa di malattia, disabilità o morte prematura; questa misura permette ai decisori di confrontare minacce molto diverse, ma non significa che siano tutte ugualmente probabili o urgenti.
«L’aspetto sorprendente non è soltanto la portata di queste minacce, ma il fatto che l’umanità abbia ancora la possibilità di agire. Per tutte le 17 minacce catastrofiche, le decisioni prese oggi dai leader plasmeranno la salute e il benessere della prossima generazione. Ma rinviare gli interventi servirà soltanto a spostarne i costi nel futuro e ad aumentarli.»
Christopher JL Murray, copresidente della Commissione e direttore dell’Institute for Health Metrics and Evaluation, University of Washington
Che cosa misura la cifra di 10,4 miliardi
La Commissione stima che intervenire per ridurre il rischio legato all’uso malevolo dell’IA potrebbe evitare la perdita di 10,4 miliardi di DALY entro il 2100, tenendo conto sia dell’impatto potenziale sia della probabilità. La cifra è una stima della perdita di salute evitabile nell’arco del periodo esaminato, non una previsione secondo cui l’IA causerà un singolo evento con un costo pari a quel numero di anni di vita in buona salute. Il comunicato non fornisce una stima separata della probabilità di una catastrofe legata all’IA.
La distinzione è importante: il rapporto definisce l’uso malevolo dell’IA una minaccia con potenziale di estinzione, pur descrivendone la probabilità come bassa. L’editoriale che lo accompagna afferma che la Commissione non propone una graduatoria fissa delle minacce o delle priorità politiche e che i risultati potrebbero cambiare con l’accumularsi delle evidenze. La valutazione è presentata come un quadro di riferimento per agire e riesaminare i rischi, non come una classifica dei pericoli.
Preparazione, investimenti e monitoraggio
La Commissione propone tre linee d’azione generali: costruire sistemi sanitari preparati ad affrontare una gamma di minacce, aumentare gli investimenti nei settori in cui gli strumenti attuali sono insufficienti e monitorare i rischi emergenti. Tra gli esempi di innovazione cita vaccini, antibiotici, trattamenti per l’obesità e tecnologie per il clima, da affiancare a un’adeguata governance e a un accesso equo.
Per una supervisione continuativa, gli autori raccomandano un Lancet Monitor of 21st Century Global Threats to Health, un meccanismo istituzionale per rivalutare i rischi e mettere le evidenze a disposizione dei decisori nei settori della salute, della finanza e della sicurezza. Il lavoro della Commissione si è avvalso dei contributi di 35 leader nei campi della salute, dell’economia, della sicurezza, della governance e della tecnologia e ha attinto a un’analisi dei rischi relativa a 204 paesi e territori. La sua affermazione centrale sull’IA è più circoscritta di una previsione di catastrofe imminente: l’uso malevolo rientra tra le minacce che potrebbero porre fine alla sopravvivenza umana, anche se la Commissione descrive tale esito come improbabile.