Che cosa dovrebbero dimenticare i modelli del mondo? Conservazione stratificata per l’adattamento continuo

Abstract degli autori

Nell’apprendimento continuo, il peggioramento delle prestazioni su dati già osservati è considerato un segno di fallimento. È una convenzione ereditata da contesti in cui l’obiettivo della previsione è stazionario e un’etichetta corretta resta tale indefinitamente. Per i modelli del mondo non è così. Il loro obiettivo di previsione è l’ambiente, che cambia: conoscenze accurate quando sono state acquisite possono quindi diventare false, e abbandonarle è un comportamento necessario, non un difetto. La verità di riferimento non stazionaria è ampiamente studiata nella letteratura sul concept drift e negli studi sulla fattualità temporale dei modelli linguistici, ma non è stata formulata per i modelli del mondo, che si distinguono anche perché codificano conoscenze che non devono mai essere riviste. Sosteniamo che i modelli del mondo ad apprendimento continuo richiedano una conservazione stratificata secondo la scala temporale dell’invarianza: occorre distinguere invarianti come la fisica e la permanenza degli oggetti, che non devono mai essere rivisti, dai fatti relativi a singole istanze, che dovrebbero essere rivisti non appena l’ambiente cambia. Le metriche standard dell’oblio non sanno distinguere un modello del mondo che ha correttamente rivisto conoscenze ormai superate da uno che ha subito una dimenticanza catastrofica e, di conseguenza, collocano al primo posto un modello congelato; i benchmark esistenti di ragionamento fisico, invece, valutano solo checkpoint congelati. Proponiamo la conservazione differenziale, che riporta i test di regressione sugli invarianti lungo il flusso di adattamento insieme alla latenza di revisione, senza aggregarli.