Composizionalità comportamentale delle rappresentazioni degli autoencoder sparsi

Abstract degli autori

Gli autoencoder sparsi (SAE) rappresentano le attivazioni del modello mediante feature sparse decodificate linearmente, ma gli effetti a valle di queste feature non sono necessariamente additivi. Introduciamo i SAE Additivity Residuals (SAR), che misurano la variazione comportamentale non spiegata dalle interazioni fino a un ordine prescelto. Con un campionamento indipendente dei sottoinsiemi di feature, il SAR di popolazione corrisponde esattamente all’energia normalizzata delle interazioni di ordine superiore e pone un limite all’errore nell’ordinamento delle coalizioni per l’approssimazione ottimale di ordine basso. Per distinguere la composizionalità associata alla rappresentazione SAE da quella indotta dal calcolo a valle, confrontiamo le coordinate SAE apprese con rotazioni casuali che preservano la somma nello stesso sottospazio selezionato. Le coordinate apprese presentano residui di primo ordine inferiori in tutte le 18 configurazioni di modello e comportamento. Le coordinate, tuttavia, non sono del tutto additive: i termini a coppie migliorano l’ordinamento delle coalizioni escluse dall’addestramento in ogni configurazione e superano modelli con lo stesso numero di parametri che utilizzano termini di terzo ordine selezionati casualmente. In un esperimento di steering combinato, la modellazione a coppie porta la fedeltà dell’ordinamento da 0,5874 a 0,7790 e riduce l’errore di ordinamento da 0,1444 a 0,0606. Nel complesso, questi risultati mostrano che le coordinate SAE consentono descrizioni comportamentali relativamente composizionali, mentre spiegazioni e interventi congiunti fedeli richiedono comunque di considerare le interazioni oltre agli effetti delle singole feature. Il codice è disponibile all’indirizzo https://github.com/OpenSAE/SAE-Behavioral-Compositionality.