Perché i transformer per grafi non prestano attenzione allo stesso token?

Abstract degli autori

Nei grandi modelli linguistici (LLM), l’attenzione si concentra fortemente sul primo token. Si ritiene che questo «pozzo di attenzione» protegga i modelli profondi da un mescolamento eccessivo. Anche se i transformer per grafi sono soggetti a una pressione analoga, osserviamo che GRIT, un transformer per grafi allo stato dell’arte, forma raramente pozzi di attenzione sulle molecole e che ne forma ancora meno quando viene addestrato su grafi più grandi: il contrario di quanto accade negli LLM. In linea di principio, un grafo può impedire la formazione di pozzi: dimostriamo teoricamente e mostriamo empiricamente che la sua simmetria e la sua località limitano l’attenzione che un nodo può ricevere. Nelle molecole, però, dove gli atomi sono distinguibili e l’attenzione è globale, nessuno dei due limiti impedisce la formazione di pozzi: a impedirla è una proprietà del modello. Troviamo che la causa principale è la funzione di calcolo dei punteggi di attenzione. Sostituire il logit con gating di GRIT con un prodotto scalare fa salire la frequenza dei pozzi da 0,09 a 0,68 sugli stessi grafi. Nei transformer per grafi che usano l’attenzione basata sul prodotto scalare, rimuovere il pozzo produce all’incirca lo stesso errore che si ottiene rimuovendo un nodo casuale, mentre i nodi a cui GRIT presta più attenzione sono importanti per le sue previsioni. I pozzi di attenzione sono quindi una proprietà dell’attenzione basata sul prodotto scalare, non dei transformer. Nei nostri esperimenti si formano quando il calcolo dei punteggi mediante prodotto scalare ha un nodo distinguibile su cui concentrarsi.