Stabilità e diversità degli ecosistemi generativi interconnessi che si autoalimentano

Abstract degli autori

La diffusione su larga scala dell’IA generativa ha reso sempre più difficile distinguere i contenuti sintetici dai dati reali. Di conseguenza, i dati sintetici finiscono inevitabilmente nei processi di addestramento delle generazioni successive di modelli, creando un ciclo di addestramento in cui i modelli si alimentano dei propri dati. Studi precedenti hanno esaminato gli effetti di questo addestramento ricorsivo, ma le analisi si sono in gran parte limitate a modelli isolati, che consumano soltanto i dati sintetici da loro stessi generati, oppure a interazioni semplificate tra due modelli. Questo articolo compie un primo passo verso la comprensione dei modelli generativi interconnessi che si alimentano dei propri dati: più modelli consumano dati sintetici generati gli uni dagli altri attraverso percorsi di interazione complessi. Proponiamo un quadro teorico che rappresenta i modelli come nodi di un grafo diretto e pesato, nel quale i pesi degli archi regolano il flusso di dati sintetici tra i modelli. Su questa base analizziamo il comportamento a lungo termine dei modelli interconnessi sottoposti a dinamiche di riaddestramento, individuando le condizioni di convergenza e caratterizzando i punti fissi risultanti. Esaminiamo inoltre in che modo l’accesso di ciascun modello ai dati reali, il consumo di dati tra modelli e la struttura del grafo delle interazioni determinino la stabilità e la diversità del sistema nel lungo periodo.