Interpretabilità dei modelli del mondo: dalla decodifica delle rappresentazioni alla comprensione dei mondi latenti

Abstract degli autori

Le emergenti Joint-Embedding Predictive Architectures (JEPAs) stanno andando oltre l’apprendimento delle rappresentazioni, verso modelli latenti del mondo che consentono previsione, pianificazione e controllo. Eppure i loro mondi latenti sono per natura privi di un’interfaccia interpretabile dagli esseri umani. In questo articolo di prospettiva sosteniamo che, man mano che le rappresentazioni latenti delle JEPA diventano stati interni per la previsione e l’azione, l’interpretabilità deve andare oltre ciò che codificano e considerare come le variabili latenti interagiscono, si evolvono e determinano causalmente le previsioni. A questo scopo, prospettiamo un programma di ricerca in quattro fasi — Ground, Structure, Verify e Act — per guidare il passaggio a una comprensione dei mondi latenti che consenta di agire. Nel nostro quadro, gli studi esistenti sull’interpretabilità delle JEPA forniscono primi riscontri per Ground, mentre l’analisi sistematica della struttura latente, la verifica causale e l’intervento restano in gran parte inesplorati. Nel complesso, questo articolo di prospettiva intende promuovere un programma di ricerca più ampio sull’interpretabilità dei mondi latenti, spostando l’attenzione dalla decodifica delle rappresentazioni alla comprensione e alla validazione dei mondi latenti, e alla possibilità di agire su di essi.