La geometria dell’inferenza nei flussi residui dei transformer

Abstract degli autori

I modelli linguistici transformer elaborano previsioni attraverso aggiornamenti successivi del flusso residuo, ma non è ancora chiaro come le loro rappresentazioni diventino specifiche rispetto all’esito finale. Studiamo questo processo confrontando gli stati residui intermedi con i rispettivi stati finali e con una raccolta empirica di stati finali provenienti da altri contesti. In sei modelli linguistici preaddestrati, il proprio stato finale diventa preferibile alla media delle alternative già nelle prime fasi, mentre molti singoli stati finali alternativi restano più vicini. Questi insiemi di alternative concorrenti tendono a ridursi con la profondità, ma la loro composizione cambia e gli stati finali che vi rimangono non diventano necessariamente più simili tra loro. L’allineamento direzionale e la posizione in graduatoria del proprio stato finale possono quindi migliorare anche quando la distanza euclidea dallo stato finale cambia poco. Sviluppiamo un semplice modello ad alta dimensionalità che distingue i ruoli della norma, dell’allineamento e della geometria degli stati finali, mostrando come cambiamenti direzionali graduali possano produrre brusche riduzioni del numero di alternative concorrenti. Dimostriamo inoltre che un percorso rettilineo verso il proprio stato finale non può introdurre nuovi concorrenti né secondo la distanza euclidea né secondo la distanza coseno; la comparsa osservata di nuovi concorrenti mostra dunque che la convergenza non segue una linea retta. Infine, gli stati finali associati a token di output che occupano posizioni più basse in graduatoria tendono a trovarsi più lontano in termini di distanza coseno in tutti i modelli studiati, collegando la geometria del flusso residuo all’organizzazione dell’output. Nel complesso, questi risultati descrivono una crescente specificità geometrica durante l’inferenza dei transformer e spiegano perché la distanza, il numero di concorrenti e la concentrazione degli stati finali rimasti offrano prospettive distinte su questo processo.