Orizzonti futuri

La svolta causale: perché la prossima frontiera dell’IA è imparare a chiedersi «perché»

Un’analisi approfondita dell’IA causale, dalla scala della causalità di Judea Pearl all’equità controfattuale, all’apprendimento delle rappresentazioni causali e al futuro della medicina.

AI.info Team · 2026-08-24

Il limite del riconoscimento di schemi

Ogni grande progresso dell’IA moderna — dai classificatori di ImageNet ai grandi modelli linguistici che redigono contratti e correggono errori nel codice — è stato un trionfo dello stesso principio di fondo: individuare regolarità statistiche in enormi insiemi di dati e sfruttarle per prevedere ciò che viene dopo. Questo principio si è rivelato straordinariamente produttivo. Ma, secondo un filone di ricerca sempre più ampio che ha tra i suoi punti di riferimento il lavoro dell’informatico della UCLA Judea Pearl, ha anche incontrato un limite che nessuna quantità aggiuntiva di dati o parametri può, da sola, superare.

Il limite è strutturale, non una questione di scala: la pura associazione, per quanto sofisticata, non può rispondere a domande sugli interventi o sulle alternative controfattuali, perché quelle domande si collocano a un livello diverso di una gerarchia che la sola statistica non può risalire.

Questa lacuna è al centro della «svolta causale» oggi in corso in parte della comunità di ricerca sull’IA: il passaggio dalla domanda «che cosa è correlato con che cosa» alle domande «che cosa accadrebbe se agissimo diversamente» e «che cosa sarebbe accaduto se le cose fossero andate altrimenti».

La tesi di questo articolo è precisa e falsificabile: il prossimo significativo salto di capacità dei sistemi di IA, soprattutto di quelli che aspirano a un ragionamento generale o superintelligente, dipende meno dall’aumentare la scala delle attuali architetture associative che dal dotare le macchine di una grammatica formale esplicita di causa ed effetto — quella che Pearl e i suoi collaboratori hanno costruito nel corso di quattro decenni e che settori dall’epidemiologia all’economia fino all’equità algoritmica stanno già usando nella pratica.

Senza di essa, sistemi che sembrano esprimersi con scioltezza possono comunque non comprendere i nessi causali, con conseguenze enormi per l’affidabilità, la sicurezza e la capacità di generalizzazione.

La scala della causalità di Pearl

Lo strumento concettuale centrale di Pearl, reso noto dal suo libro del 2018 The Book of Why, scritto con Dana Mackenzie, matematico diventato divulgatore scientifico, è quella che chiama la scala della causalità, articolata in tre gradini che richiedono capacità cognitive via via maggiori.

Il primo gradino è l’associazione — il livello della domanda «e se osservo?». È l’ambito della probabilità condizionata: osservare che i pazienti che assumono un farmaco tendono a guarire più in fretta, oppure che, in un testo, una parola tende a seguirne un’altra. Quasi tutto il machine learning contemporaneo, comprese le architetture transformer alla base degli attuali grandi modelli linguistici, opera a questo livello. È potente perché raccogliere grandi quantità di dati osservazionali costa poco e perché molti compiti pratici di previsione richiedono davvero soltanto di individuare schemi stabili.

Il secondo gradino è l’intervento — «e se intervengo?». È il livello della domanda «se compio l’intervento, come cambierà il risultato?». Per rispondere non basta osservare una correlazione: bisogna sapere che cosa accade quando un soggetto esterno impone a una variabile un determinato valore, recidendo i nessi con le cause naturali che altrimenti l’avrebbero determinato.

Un esempio classico è il paradosso di Simpson: un trattamento può apparire dannoso quando i dati di diversi gruppi vengono aggregati e benefico all’interno di ogni sottogruppo, a seconda esclusivamente di come sono state generate le variabili confondenti. È una distinzione invisibile alla sola probabilità condizionata, ma risolvibile disponendo di ipotesi causali di base appropriate.

Il terzo e più alto gradino è quello dei controfattuali — «e se fossi intervenuto?». È il livello dei mondi immaginati a posteriori: che cosa sarebbe successo a una specifica paziente deceduta se non le fosse stato somministrato il farmaco? Il ragionamento controfattuale richiede di postulare due realtà parallele, quella che si è verificata e quella che non si è verificata; è quindi il più difficile da formalizzare e quello che richiede il maggior numero di ipotesi.

Nel quadro teorico di Pearl, ogni gradino richiede più informazioni o ipotesi strutturali di quello sottostante: dai soli dati del primo gradino non si può dedurre la risposta a una domanda del secondo o del terzo, per quanti dati si abbiano.

Gli strumenti formali: il do-calculus

Pearl non si è limitato a descrivere filosoficamente questa gerarchia: ha costruito strumenti matematici per operare al suo interno. Lavorando con grafi aciclici diretti associati a modelli causali strutturali, a metà degli anni 1990 ha introdotto un insieme di tre regole di inferenza simbolica note come do-calculus. Il «do» si riferisce all’operatore do, scritto do(x), che rappresenta l’atto di assegnare dall’esterno un valore a una variabile, anziché condizionare il calcolo all’osservazione di quel valore, come fa la normale teoria della probabilità.

Le regole del do-calculus stabiliscono esattamente quando e come una domanda espressa con l’operatore do, cioè una domanda su un intervento, possa essere riscritta in termini di quantità osservazionali ordinarie che, in linea di principio, si possono stimare da dati non sperimentali. Questa riformulazione è importantissima nei casi in cui condurre un vero esperimento randomizzato sia contrario all’etica, impossibile o proibitivamente costoso: non si può, per esempio, assegnare casualmente alle persone il compito di fumare, ma con le giuste ipotesi sulla struttura del grafo potrebbe comunque essere possibile identificare l’effetto causale del fumo sulla salute usando soltanto dati osservazionali.

La completezza del do-calculus — la dimostrazione che, se le tre regole non riescono a eliminare l’operatore do da un’espressione, l’effetto causale non è effettivamente identificabile dai dati osservazionali sotto le ipotesi rappresentate dal grafo — è stata stabilita nel 2006, indipendentemente, da Yimin Huang e Marco Valtorta e da Ilya Shpitser e Judea Pearl.

Quel risultato ha trasformato il do-calculus da utile strumento euristico in una procedura decisionale: dati un grafo causale e una domanda, esiste ora un modo sistematico per stabilire se i dati disponibili consentano di rispondere, ancor prima di esaminare un insieme di dati.

Perché «la correlazione non implica causalità» sottovaluta il problema

Il monito secondo cui la correlazione non implica causalità viene spesso trattato come uno slogan anziché come un’affermazione tecnica. Così si sottovaluta quanto sia profonda la distanza tra le due. Il problema non è semplicemente che esistono correlazioni spurie da eliminare con metodi statistici più accurati.

È che la grandezza di cui un sistema ha bisogno — relativa a un intervento o a un controfattuale — spesso non può essere ricavata in alcun modo dalla distribuzione dei dati osservati, per quanto la si manipoli, a meno che la struttura causale sottostante non venga specificata separatamente: quali variabili causano quali altre e quali sono influenzate da cause comuni non osservate.

Un modello addestrato esclusivamente a prevedere P(Y | X) può essere un ottimo predittore e, al tempo stesso, non dire formalmente nulla — o persino sbagliare — su P(Y | do(X)): l’effetto di modificare davvero X. L’apprendimento di schemi ottimizza il primo obiettivo; le decisioni, la progettazione delle politiche pubbliche e la spiegazione scientifica richiedono il secondo.

Proprio per questo, nei campi in cui sbagliare sulla causalità comporta rischi elevati — medicina, economia, politiche pubbliche — si sono sviluppate intere tradizioni metodologiche dedicate al problema, anziché affidarsi alla sola accuratezza delle previsioni.

Perché i grandi modelli linguistici si fermano al primo gradino

I grandi modelli linguistici sono addestrati in larghissima parte su testi non strutturati che contengono correlazioni e descrizioni umane di rapporti causali, ma non i meccanismi strutturali sottostanti che hanno generato quei rapporti, né manipolazioni sperimentali del mondo. Diverse ricerche recenti hanno cercato di misurare direttamente le conseguenze di questa lacuna.

Corr2Cause, un benchmark del 2023 molto citato, ha costruito un test su larga scala — oltre 200.000 esempi — in cui al modello viene presentato un insieme di affermazioni puramente correlazionali su un gruppo di variabili: quali sono statisticamente associate tra loro e quali sono indipendenti. Gli viene poi chiesto di stabilire quali rapporti causali, se ve ne sono, ne conseguano logicamente.

I risultati sono stati netti: i migliori modelli dell’epoca, come GPT-4, hanno ottenuto punteggi solo di poco superiori a quelli di un modello che risponde a caso. Nella valutazione del benchmark, GPT-4 ha raggiunto un punteggio F1 di circa 29, contro circa 20 per risposte casuali con probabilità uniforme. In altre parole, quando si eliminano gli indizi linguistici superficiali su cui i modelli possono riconoscere schemi e resta soltanto la pura struttura logica dell’inferenza causale, le prestazioni crollano verso il livello del caso.

Da allora, i modelli addestrati al ragionamento hanno migliorato quel risultato. Kacper Kadziolka e Saber Salehkaleybar, in un articolo pubblicato su arXiv il 31 luglio 2025, hanno misurato per o3-mini di OpenAI un punteggio F1 di 66,28 su Corr2Cause con un singolo prompt, contro 33,38 del miglior modello convenzionale di riferimento sottoposto a fine-tuning, e lo hanno portato a 83,83 con una procedura in quattro fasi basata sul contesto fornito nel prompt. Con lo stesso metodo, DeepSeek-R1 è passato da 64,57 a 79,83. Secondo la loro interpretazione, a produrre il miglioramento è la scomposizione strutturata, non la scala del modello.

Ricerche affini che passano in rassegna gli studi sul ragionamento causale sono giunte a diagnosi simili: i modelli linguistici tendono a riprodurre schemi linguistici che evocano la causalità, memorizzati dai testi di addestramento, anziché compiere l’inferenza strutturale che le domande richiedono davvero; generalizzano poco quando cambiano le formulazioni e i nomi delle variabili incontrati durante l’addestramento; e incontrano particolari difficoltà quando i rapporti causali sono impliciti anziché dichiarati esplicitamente.

Questo non significa che i modelli linguistici siano inutili per i compiti di ragionamento che riguardano la causalità: possono essere efficaci nel reperire ed esporre affermazioni causali già formulate dagli esseri umani. Significa che la sola scala del modello non basta a far loro compiere l’inferenza strutturale basata su grafi formalizzata dal do-calculus.

Gli strumenti già in uso

La risposta a questa lacuna non è stata solo teorica. Una disciplina applicata parallela, il machine learning causale, si è consolidata fino a produrre software funzionante e a diventare una pratica standard in diversi campi.

Microsoft Research ha sviluppato e pubblicato DoWhy, una libreria Python open source il cui nome richiama direttamente il do-calculus di Pearl. DoWhy articola ogni analisi causale in quattro passaggi espliciti: modellare il problema mediante un grafo causale e ipotesi strutturali dichiarate; stabilire se, dato quel modello, l’effetto causale cercato sia effettivamente stimabile; stimarlo con un metodo statistico scelto; e, tratto distintivo, cercare di confutare la stima con analisi di sensibilità e verifiche di robustezza che tentano attivamente di mettere in crisi il modello ipotizzato.

Quest’ultimo passaggio è il contributo distintivo della libreria: anziché trattare una stima causale come un numero definitivo, DoWhy è progettata per rendere visibile, non nascondere, la fragilità delle ipotesi causali. Da allora il progetto è passato a una struttura di governance open source indipendente nell’ambito dell’organizzazione PyWhy, a testimonianza di quanto gli strumenti per il machine learning causale siano andati oltre il programma di ricerca di una singola azienda.

In economia, Susan Athey di Stanford, lavorando con Guido Imbens e in seguito con Stefan Wager, ha adattato l’algoritmo random forest — sviluppato in origine per fare previsioni — creando le causal forests. Queste sono concepite per stimare non solo se un intervento funzioni in media, ma anche quali sottopopolazioni ne traggano beneficio, quali ne siano danneggiate e quali non ne risentano. La stima degli effetti eterogenei del trattamento è diventata fondamentale nell’econometria applicata proprio perché ai responsabili delle politiche pubbliche raramente basta conoscere l’effetto medio: devono sapere a chi gioverà o nuocerà una modifica del salario minimo, un programma di formazione professionale o una politica dei prezzi.

In medicina, l’epidemiologo di Harvard Miguel Hernán ha promosso l’emulazione di un trial target: invece di trattare un insieme di dati osservazionali come una raccolta indistinta in cui cercare correlazioni, i ricercatori definiscono anzitutto il protocollo dello studio randomizzato ipotetico che vorrebbero poter condurre — criteri di ammissibilità, strategie di trattamento, periodo di osservazione ed esiti — e poi usano i dati osservazionali per emularlo il più fedelmente possibile.

Il metodo è concepito espressamente per evitare errori come l’immortal time bias e il disallineamento dei tempi di inizio, che storicamente hanno portato gli studi medici osservazionali a conclusioni fuorvianti sul piano causale anche quando le associazioni statistiche rilevate erano del tutto reali. Hernán e altri, va notato, precisano che l’emulazione di un trial target non risolve ogni problema: i fattori confondenti non misurati e i dati incompleti restano limiti reali. Anche questa cautela è coerente con la tesi di Pearl secondo cui salire la scala richiede ipotesi più forti, non soltanto metodi statistici più ingegnosi.

Equità controfattuale: la causalità come strumento etico

Forse l’esempio più chiaro del perché la gerarchia causale conti sul piano pratico, e non solo filosofico, viene dall’equità algoritmica. Nel 2017, Matt Kusner, Joshua Loftus, Chris Russell e Ricardo Silva hanno presentato il concetto di equità controfattuale alla conferenza Neural Information Processing Systems, proponendo una definizione di previsione equa fondata esplicitamente sul gradino controfattuale della scala di Pearl, anziché sulla parità statistica tra gruppi.

Secondo il loro criterio, una decisione che riguarda una persona è equa solo se sarebbe stata la stessa in un mondo controfattuale in cui quella persona fosse appartenuta a un gruppo demografico diverso, propagando correttamente attraverso un modello causale specificato tutte le conseguenze causali derivanti da tale differenza. Non basta cambiare la sola etichetta demografica lasciando immutato tutto ciò che è correlato a essa.

Gli autori hanno applicato il quadro teorico alla previsione del successo negli studi di giurisprudenza, mostrando che un modello può apparire equo secondo le metriche correlazionali convenzionali pur incorporando percorsi causali attraverso i quali gli attributi protetti influenzano indirettamente gli esiti.

Il punto dell’articolo non è che l’equità controfattuale sia un problema risolto — dipende da un modello causale le cui ipotesi non si possono ricavare dai soli dati — ma che l’equità stessa è, in un senso importante, una questione del terzo gradino. Affrontarla con strumenti del primo gradino significa importare senza dichiararlo le ipotesi distorte del modello stesso su quali correlazioni sia lecito utilizzare.

Perché la svolta causale conta nel dibattito sull’AGI

La rilevanza di tutto questo per il dibattito sull’intelligenza artificiale generale e sulla superintelligenza non è marginale. Pearl ha sostenuto, nelle sue ricerche e in The Book of Why, che un sistema confinato alle associazioni non può formulare spiegazioni davvero nuove, pianificare in modo affidabile di fronte a interventi che non ha mai osservato, né ragionare su responsabilità, colpa e alternative immaginate: capacità che si possono considerare parte integrante di ciò che si intende per intelligenza generale, non semplici accessori.

Un sistema che conosce soltanto ciò che si è presentato insieme nei dati su cui è stato addestrato non dispone di un metodo fondato per prevedere che cosa accadrà in seguito a un’azione che non ha mai visto compiere. È proprio la situazione che si troverà continuamente ad affrontare qualsiasi agente impiegato in un mondo in cambiamento o chiamato a pianificare un intervento nuovo. Nel quadro teorico di Pearl, la capacità di generalizzare in modo affidabile al di fuori della distribuzione dei dati di addestramento, la scoperta scientifica e la pianificazione a lungo termine in condizioni di reale incertezza si collocano tutte al di sopra del primo gradino.

L’attuale ondata di interesse — dai benchmark sul modello di Corr2Cause che mettono alla prova i modelli linguistici, alle ricerche che combinano esplicitamente grandi modelli linguistici, grafi causali e assunzioni strutturali, fino all’adozione nell’industria di librerie di machine learning causale utilizzate in produzione, come DoWhy, accanto alle pipeline di IA predittiva — va quindi letta come qualcosa di più di una nicchia metodologica che cerca di tenere il passo con lo slancio del deep learning.

È una scommessa sull’idea che ai sistemi attuali non manchino altri dati dello stesso tipo, ma un diverso tipo di struttura formale: una rappresentazione esplicita di che cosa causa che cosa, governata dallo stesso apparato del do-calculus che permette a epidemiologi ed economisti di distinguere ciò che semplicemente segue da qualcos’altro da ciò che cambierebbe davvero se si modificasse l’assetto del mondo.

Che le architetture ibride capaci di innestare il ragionamento causale sull’apprendimento di regolarità su larga scala abbiano successo è una questione empirica ancora aperta, non risolta. Ma la diagnosi di ciò che manca, a differenza delle affermazioni di marketing che spesso accompagnano i progressi dell’IA, poggia su una matematica solidamente consolidata e su tre decenni di risultati applicativi nella medicina, nell’economia e nella ricerca sull’equità.