Scomporre per direzione l’evoluzione delle rappresentazioni nei transformer

Abstract degli autori

Le rappresentazioni nei transformer evolvono attraverso trasformazioni additive apprese, che ne preservano la direzione corrente oppure la modificano. Studiamo questa evoluzione come una geometria funzionale, scomponendo gli aggiornamenti appresi in componenti parallele e perpendicolari. Nei modelli preaddestrati troviamo componenti parallele consistenti, oltre al percorso di identità residuo. Applichiamo quindi la scomposizione in due spazi: agli aggiornamenti dell’attenzione e dell’MLP rispetto allo stato nascosto, e all’aggregazione dei valori nell’attenzione rispetto al valore del token corrente. Modifiche mirate rivelano una marcata asimmetria che dipende dallo spazio considerato: la manipolazione della componente parallela nello spazio dei valori, escludendo il token stesso, è nettamente più robusta delle corrispondenti manipolazioni nello spazio residuo e della componente perpendicolare. Preserva infatti il contributo diretto del token stesso, modificando la scala del solo aggregato degli altri token. La stessa scomposizione permette di descrivere l’errore negli aggiornamenti indotto dalla compressione distinguendone le componenti: l’errore perpendicolare distingue i metodi di compressione più chiaramente di quello parallelo. Un’ampia serie di esperimenti mostra inoltre che, durante il preaddestramento da zero, sopprimere la componente parallela dell’aggregato completo abbassa le curve della perdita di validazione e migliora le medie nei compiti downstream, con i risultati migliori per la variante nello spazio dei valori. Nel complesso, questi risultati collegano la geometria delle rappresentazioni alla robustezza delle modifiche, alla diagnosi della compressione e agli interventi durante l’addestramento. Il codice è disponibile nel \href{https://github.com/Shwai-He/Transformer-Geometry}{project repository}.