Orizzonti futuri

La crisi del collasso dei modelli: come l’IA consuma i propri dati di addestramento

Il collasso dei modelli è reale, ma dipende dalle condizioni: a provocarlo è la sostituzione dei dati, mentre l’accumulo può evitarlo. A cambiare è il contesto: l’obbligo di marcatura dell’UE si applica dall’agosto 2026 e il muro dei dati è

AI.info Team · 2026-08-28

Un circolo vizioso senza interruttore

Nel luglio 2024, Nature ha pubblicato uno studio dal titolo tanto diretto da sembrare un’avvertenza: «I modelli di IA collassano quando vengono addestrati su dati generati ricorsivamente». Gli autori — Ilia Shumailov e Yarin Gal della University of Oxford, Zakhar Shumaylov e Ross Anderson della University of Cambridge, Yiren Zhao dell’Imperial College London e Nicolas Papernot della University of Toronto e del Vector Institute — hanno dato un nome a un fenomeno di cui gli addetti ai lavori parlavano sottovoce da anni: se si addestra un modello generativo sui propri output, generazione dopo generazione, il modello non si limita a ristagnare.

Dimentica attivamente. Gli eventi rari scompaiono per primi, la varianza si riduce e, alla fine, il sistema converge verso un nucleo degenerato e ripetitivo che non assomiglia più alla distribuzione dei dati da cui era partito.

La scoperta conta per il momento in cui arriva, non per la sua novità. Lo stesso gruppo aveva già delineato il meccanismo un anno prima, in un preprint del 2023, «La maledizione della ricorsione: l’addestramento su dati generati fa dimenticare i modelli», e i matematici sapevano da tempo che gli errori di campionamento si accumulano nei processi iterati. Nel 2024 era cambiata la portata della crisi descritta dallo studio.

Quando è uscito lo studio su Nature, il web aperto funzionava già da quasi due anni come un luogo in cui testi scritti da esseri umani e da macchine si mescolavano, senza un modo affidabile per distinguere gli uni dagli altri. Il collasso dei modelli ha smesso di essere una curiosità teorica sui cicli ricorsivi ed è diventato una questione concreta: l’intera filiera che produce i grandi modelli linguistici ha cominciato ad avvelenarsi da sola?

Su questo occorre essere precisi, perché la versione più diffusa della storia si è allontanata dalle effettive conclusioni dello studio. Il collasso dei modelli è reale, ben definito e riproducibile. Non dimostra, però, che i dati sintetici siano categoricamente nocivi, né che il settore corra verso un inevitabile collasso delle capacità dei modelli. La tesi più interessante, e più difendibile, è più circoscritta: l’addestramento ricorsivo che sostituisce i dati senza filtrarli degrada i modelli in modo prevedibile; il meccanismo si ritrova in architetture diverse; e la risposta delle aziende e delle infrastrutture a questo rischio è, al momento, inadeguata rispetto alla portata del problema. Non perché la scienza sia poco chiara, ma perché gli incentivi a risolverlo sono deboli.

Che cos’è davvero il collasso

Shumailov e colleghi descrivono il collasso dei modelli come un processo degenerativo che si sviluppa attraverso generazioni successive di modelli, dove «generazione» indica una sessione di addestramento, non una versione dell’architettura. Si prende un modello, si campionano i suoi output e li si usa — in via esclusiva o prevalente — come dati di addestramento per il modello successivo. Poi si ripete. Lo studio su Nature individua tre fonti di errore che si accumulano in questo ciclo.

L’errore di approssimazione statistica nasce dal fatto che qualsiasi campione finito tratto dalla distribuzione degli output di un modello sottorappresenta le code: le scelte lessicali rare, le costruzioni sintattiche insolite e i completamenti poco probabili ma validi che rendono una distribuzione ricca anziché uniforme. L’errore di espressività funzionale nasce dal fatto che il modello che compie l’approssimazione non è mai, già in partenza, una rappresentazione perfetta della distribuzione reale: ogni architettura ha le proprie distorsioni e i propri punti ciechi, che si rafforzano anziché correggersi quando un modello impara dalle stime di un altro. Il terzo, l’errore di approssimazione funzionale, deriva soprattutto dai limiti delle procedure di apprendimento, come la distorsione strutturale della discesa stocastica del gradiente o la scelta della funzione obiettivo.

Ripetendo il processo abbastanza volte, gli errori si accumulano. Le code della distribuzione — gli schemi poco frequenti ma reali che danno varietà al linguaggio — sono le prime a sparire, perché ogni generazione le campiona meno spesso della precedente e, una volta perse, il segnale di addestramento non può più recuperarle. Lo studio ha dimostrato questo andamento negli autoencoder variazionali, nei modelli a mistura gaussiana e nei modelli linguistici: proprio per questo era difficile liquidare il risultato come un effetto accidentale di una sola architettura.

Il meccanismo è strutturale: deriva da ciò che il ricampionamento iterato fa a una distribuzione, indipendentemente dai token o dai pixel specifici coinvolti. Le generazioni successive non diventano ostili né mostrano guasti evidenti che un lettore occasionale noterebbe subito: diventano banali. Gli output si concentrano intorno ai completamenti che il modello stesso considera più probabili, la varianza crolla e la capacità del modello di rappresentare modi rari ma validi della distribuzione si deteriora, finché non resta che un residuo ristretto e ripetitivo dell’originale.

La vera via d’uscita: accumulare, non puntare alla purezza

La correzione più importante alla tesi del collasso non è arrivata dai critici che contestavano il risultato pubblicato su Nature, ma da uno studio del 2024 che ha messo alla prova un’altra ipotesi alla base degli esperimenti originali. Matthias Gerstgrasser, Rylan Schaeffer e i loro coautori, in «Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data», hanno osservato che gli esperimenti principali di Shumailov e colleghi modellavano un mondo in cui i dati sintetici di ogni generazione sostituiscono il precedente insieme di dati di addestramento, anziché aggiungersi a esso.

È un’ipotesi forte e in qualche misura artificiale. Quando invece Gerstgrasser e colleghi hanno simulato l’accumulo — aggiungendo l’output sintetico di ogni generazione al corpus originale prodotto da esseri umani, anziché sostituirlo — l’errore sui dati di test ha smesso di crescere senza limite da un’iterazione all’altra. Si è stabilizzato a un valore massimo finito.

Non è una nota tecnica di poco conto: cambia la prospettiva sull’intera portata pratica del problema. Se è la sostituzione a causare il collasso, la domanda per il settore non è «si possono mai usare in sicurezza i dati sintetici?», ma «qualcuno sta davvero scartando il corpus accumulato di dati prodotti da esseri umani per sostituirlo con dati sintetici?».

Negli ambienti di produzione, quasi nessuno lo fa deliberatamente: i laboratori mescolano dati sintetici e umani, e gli insiemi di dati di addestramento che contano, come quelli alla base dei modelli della classe di GPT, Claude e Gemini, continuano a fondarsi su grandi corpus accumulati di dati umani, anziché ripartire a ogni generazione da insiemi composti solo da dati sintetici. Il pericolo descritto nello studio pubblicato su Nature è reale, ma dipende da una condizione: la sostituzione anziché l’accumulo (i modelli linguistici dello studio peggioravano, seppure di poco, anche quando a ogni generazione veniva conservato il 10% dei dati originali). È una condizione che una pratica attenta può evitare. Il problema non sono i dati sintetici in sé, ma perdere traccia della loro provenienza al punto da non poter più garantire l’accumulo.

La distillazione è il controesempio che questa narrazione ignora

La prova più forte contro una lettura secondo cui «i dati sintetici sono pericolosi» in ogni caso è che alcuni dei modelli più capaci oggi in produzione sono stati addestrati in misura considerevole usando intenzionalmente dati sintetici, e ha funzionato. La distillazione — l’addestramento di un modello «studente» più piccolo sugli output generati da un modello «insegnante» più grande e più capace — è una pratica standard proprio perché dati sintetici prodotti con cura da una fonte più forte possono trasferire capacità in modo efficiente.

Non si tratta di autoaddestramento ricorsivo nel senso del collasso: i dati passano da un modello più capace a uno meno capace, anziché essere prodotti e poi consumati, senza distinzioni, dallo stesso modello in un circuito chiuso. La distinzione che determina se i dati sintetici aiutano o danneggiano non è tra sintetico e reale; è la presenza o meno, nel processo, di un gradiente di qualità e di un meccanismo — selezione umana, verifica rispetto ai dati reali, filtraggio in base alla correttezza — che impedisca agli errori di accumularsi senza controllo da una generazione all’altra. La distillazione ha entrambi. I cicli semplicistici in cui si raccolgono testi dal web e si riaddestra il modello senza filtrarli, in genere, non hanno né l’uno né l’altro.

La scarsità di dati aggrava il problema degli incentivi

Il collasso dei modelli sarebbe un rischio circoscrivibile e ben compreso se i laboratori avessero una disponibilità illimitata di testi puliti prodotti da esseri umani a cui ricorrere. Non ce l’hanno, ed è questa scarsità a trasformare un rischio tecnico gestibile in uno strutturale. La ricerca di Epoch AI sulla crescita della quantità di dati, esposta nel modo più completo in «Will we run out of data? Limits of LLM scaling based on human-generated data», stima in circa 300.000 miliardi di token la quantità effettiva di testo pubblico di qualità, prodotto da esseri umani e corretto per le ripetizioni, disponibile per l’addestramento.

Le proiezioni di Epoch su quando questa riserva sarà sfruttata appieno sono cambiate nel tempo, con il migliorare della comprensione dell’addestramento su più epoche: l’intervallo di confidenza all’80% del gruppo per l’esaurimento va dalla metà degli anni 2020 fino al 2032 circa, con una stima centrale del 2028. Quest’ultima è stata spostata in avanti rispetto al 2024 indicato nello studio di Epoch del 2022, man mano che si accumulavano prove del fatto che i modelli tollerano diverse epoche di addestramento sugli stessi dati senza un grave deterioramento.

La data esatta conta meno della tendenza: l’offerta di nuovi testi scritti da esseri umani non avrebbe mai potuto tenere il passo con la crescita della capacità di calcolo, e ogni laboratorio del settore lo sa. L’estremo più vicino di quell’intervallo non è più una previsione. È l’anno in corso.

Questa scarsità crea proprio l’incentivo sbagliato nel momento sbagliato. Quando i dati umani sono limitati e reperirli, selezionarli e acquisirne la licenza è costoso, i dati sintetici diventano un modo economicamente allettante per continuare a crescere: non perché qualcuno ritenga sicuro un autoaddestramento ricorsivo semplicistico, ma perché l’alternativa è rallentare. La soluzione tecnica individuata da Gerstgrasser e colleghi — accumulare anziché sostituire, mantenendo intatta la base di dati prodotti da esseri umani — richiede proprio quella gestione disciplinata dei dati che la pressione sull’offerta rende più difficile da mantenere. Significa infatti che i laboratori non possono limitarsi a sostituire i costosi token di origine umana con token sintetici a basso costo: devono conservare entrambi e sapere quali sono gli uni e quali gli altri.

Il web stesso è l’esperimento incontrollato

Mentre i laboratori discutono le strategie di accumulo all’interno delle proprie procedure di addestramento, una versione molto meno controllata dello stesso esperimento si svolge su internet, la fonte da cui saranno raccolti i corpus di preaddestramento di tutti i modelli futuri. Diverse rilevazioni indipendenti — condotte con metodi differenti e giunte a stime puntuali diverse, il che è già indicativo di quanto sia ancora aperto il problema della misurazione — convergono sullo stesso quadro generale: la quota di testi appena pubblicati sul web generati o prodotti con l’aiuto dell’IA è cresciuta rapidamente dopo la fine del 2022 e rappresenta ormai una parte considerevole dei nuovi contenuti. Per le pagine web recenti, le stime vanno da circa un terzo a un’ampia maggioranza, a seconda del metodo di rilevazione e della definizione di «generato dall’IA» adottati.

Qualunque sia la cifra esatta, la direzione è inequivocabile: qualsiasi modello addestrato oggi su una nuova raccolta di pagine web usa un corpus che contiene già una quantità ignota e crescente di output di modelli precedenti, senza etichette né filtri.

È lo scenario più vicino all’effettiva impostazione sperimentale dell’articolo pubblicato su Nature, ma distribuito nell’intero settore anziché circoscritto al ciclo di addestramento di un solo laboratorio, e senza che un singolo soggetto possa imporre una disciplina di accumulo a dati che nessuno controlla. Anche un laboratorio che cura attentamente la propria procedura di addestramento per evitare il collasso dovuto alla sostituzione dei dati deve fare i conti con uno spazio comune, condiviso e non sottoposto a curation, dove quella disciplina non si applica.

L’infrastruttura per attestare la provenienza è il vero collo di bottiglia

La risposta tecnicamente fondata a questo problema non è vietare i dati sintetici — significherebbe rinunciare ai benefici reali della distillazione, senza impedire ad altri di usarli — ma costruire un’infrastruttura che consenta a chiunque, al momento della raccolta dei dati, di distinguere i contenuti scritti da esseri umani da quelli generati dalle macchine. È questo l’obiettivo dichiarato della Coalition for Content Provenance and Authenticity, un’iniziativa di settore per la definizione di standard fondata da Adobe, Arm, BBC, Intel, Microsoft e Truepic, che associa a ogni contenuto un manifesto firmato crittograficamente in cui sono registrate la sua origine e la cronologia delle modifiche.

La versione 2,1 della specifica C2PA ha ampliato questo approccio collegando le Content Credentials a filigrane digitali persistenti, anziché affidarsi soltanto ai metadati dei file. È una distinzione importante: la provenienza attestata solo dai metadati si perde facilmente quando un file viene salvato o caricato di nuovo, mentre una filigrana incorporata nei dati dei pixel o dei token è progettata per sopravvivere a queste trasformazioni. La specifica pubblicata è poi arrivata alla versione 2,4. Da tempo il collo di bottiglia non è lo standard.

Nel frattempo, la regolamentazione ha perseguito lo stesso obiettivo da un’altra direzione. L’articolo 50 dell’AI Act dell’UE impone ai fornitori di sistemi che generano audio, immagini, video o testi sintetici di contrassegnare i loro output come generati artificialmente in un formato leggibile dalle macchine. L’obbligo ha smesso di essere futuro il 2 agosto 2026, quando è diventata applicabile la maggior parte delle restanti disposizioni dell’AI Act e la Commissione ha iniziato a far rispettare le norme sulla trasparenza; i fornitori i cui sistemi erano già sul mercato quel giorno hanno tempo fino al 2 dicembre 2026 per conformarsi all’articolo 50(2).

L’obbligo produce etichette. Non produce un corpus che si possa filtrare. Un obbligo europeo di contrassegnare i contenuti si applica ai fornitori stabiliti nell’Unione e, quando gli output dei loro sistemi sono utilizzati nell’Unione, anche ai fornitori stabiliti al di fuori di essa; non riguarda però l’archivio preesistente del web aperto, né i testi scritti dalle macchine già presenti in ogni raccolta effettuata dal 2023. La legge ora stabilisce che cosa dovrebbe fare un editore attento; non offre a chi raccoglie i dati un interruttore con cui escludere ciò che un editore meno attento ha pubblicato tre anni fa.

Per ora, niente di tutto questo risolve il problema. Gli standard sulla provenienza funzionano solo se vengono adottati in modo pressoché universale, e un manifesto o una filigrana ignorati da gran parte del web non proteggono chi raccoglie dati e non è in grado di distinguere su larga scala i contenuti contrassegnati da quelli privi di contrassegno. La distanza tra «esiste uno standard sulla provenienza» e «i corpus di addestramento possono essere filtrati in modo affidabile in base alla provenienza» è attualmente enorme. Colmarla è un problema di coordinamento fra editori, piattaforme e soggetti che raccolgono dati in un ecosistema segnato da interessi contrapposti, dove nessuno può imporre a tutti il rispetto delle regole.

Che cosa ne consegue davvero

Una lettura onesta delle prove è questa: il collasso dei modelli è un fenomeno dimostrato, di cui si comprendono i meccanismi, che si verifica soprattutto in una condizione specifica ed evitabile: l’addestramento ricorsivo che sostituisce i dati reali invece di accumularli, senza controlli sulla provenienza che permettano di distinguere gli uni dagli altri (l’accumulo non offre garanzie: la teoria mostra che, se alcune ipotesi non valgono, il collasso può verificarsi anche quando i dati originali restano nel set di addestramento). Non è un esito inevitabile inscritto nella matematica dell’aumento di scala, né un motivo per considerare uniformemente pericolosi i dati sintetici: la distillazione dimostra che i dati sintetici generati secondo un gradiente di qualità e sotto supervisione umana restano uno dei modi più affidabili per trasferire capacità.

A rendere il rischio concreto, anziché puramente accademico, è l’incrocio di tre tendenze distinte, ciascuna gestibile da sola ma più difficile da controllare insieme alle altre: una riserva finita e sempre più esaurita di testi prodotti da esseri umani per l’addestramento; un web aperto i cui nuovi contenuti sono in buona parte scritti dalle macchine e perlopiù non etichettati come tali; e un’infrastruttura per attestare la provenienza che esiste nei documenti degli standard molto più di quanto non esista nei controlli effettivi al momento della raccolta dei dati.

Correggere anche una sola di queste tendenze ridurrebbe sensibilmente il rischio. Non correggerne nessuna, continuando nel frattempo ad aumentare la scala degli addestramenti su una risorsa comune sempre più scarsa e contaminata, è lo scenario in cui il risultato di laboratorio dell’articolo su Nature smette di essere un esperimento controllato e comincia a descrivere la traiettoria predefinita del settore.