Gli autoencoder sparsi sono un sistema di coordinate condiviso per la corrispondenza simbolica

Abstract degli autori

I modelli linguistici di grandi dimensioni (LLM) racchiudono vaste conoscenze in un unico insieme di pesi, ma mancano di interpretabilità e di un ragionamento affidabile, soprattutto negli impieghi ad alto rischio. Un modello neurosimbolico, con la sua architettura interpretabile e la sua capacità di ragionamento del Sistema 2, è un’alternativa promettente se realizzato su scala paragonabile a quella degli LLM. Tuttavia, la sua struttura simbolica portante viene di solito costruita con il lavoro umano: i modelli neurosimbolici esistenti sono quindi limitati dall’ampiezza della componente simbolica e, in genere, sono specifici di un dominio. Un metodo basato sui dati potrebbe invece costruire un sistema simbolico più ampio allineando e fondendo quelli esistenti. Ci concentriamo sul primo passo, quello fondamentale: mettere in corrispondenza le unità di questi sistemi eterogenei. Il nostro metodo, SAE-IDF, usa un autoencoder sparso (SAE) per codificare un simbolo nel suo contesto nativo in un codice sparso, ripesa ogni dimensione in base alla sua rarità e individua le corrispondenze tra sistemi. Su 12 compiti relativi a 6 tipi di sistemi simbolici, SAE-IDF supera la baseline densa dello stesso LLM in tutti i compiti con Gemma-2-9B e in tutti tranne uno con Llama-3.1-8B, con un vantaggio fino a 45 punti, in modo costante nei diversi livelli e nelle diverse configurazioni del SAE. SAE-IDF è anche interpretabile: ogni dimensione del codice sparso ha un significato comprensibile per le persone, perciò ogni corrispondenza può essere scomposta in concetti identificati per nome (feature). Il nostro lavoro apre la strada a una struttura simbolica portante universale.