Quando un complemento di conceptor diventa un guadagno: geometria degli operatori e attribuzione del comportamento nei modelli linguistici

Abstract degli autori

Quando un intervento di orientamento modifica il comportamento di un modello linguistico, a quale componente dell’intervento va attribuito il risultato? Esaminiamo la questione per un complemento di conceptor scalato e centrato sul bersaglio, rimuovendo il filtro di covarianza adattato ai dati ma conservando lo stesso centro specifico per il bersaglio e lo stesso guadagno. Con l’apertura originale $α=.05$ e il guadagno $β=2$, tutte le 21 trasformazioni adattate ai dati, relative a tre modelli e sette bersagli, amplificano ogni direzione nei livelli in cui si interviene durante la generazione. La correzione matriciale è pari allo $0.093\%$--$7.815\%$ dello spostamento rispetto al controllo abbinato nelle attivazioni di estrazione tenute da parte. In 480 confronti a coppie nell’ambito di uno studio su 1.920 risposte, mantenere la matrice modifica molti singoli testi, ma non dimostra un ulteriore beneficio costante nella soppressione dei bersagli nell’insieme dei quattro bersagli. Un’analisi geometrica al variare dell’apertura mostra che il regime operativo cambia a seconda della configurazione del filtro. Separatamente, un filtro attenuato invertibile conserva ciò che una lettura affine senza vincoli può recuperare, mentre metodi specifici di cancellazione riducono la capacità predittiva di sonde adattate ai dati ex novo. Nel complesso, i risultati mostrano perché il confronto tra interventi completi non basta, da solo, ad attribuire il comportamento generato alla matrice adattata ai dati: occorre analizzare la trasformazione completa, mantenere fisse le componenti comuni e verificare direttamente le conseguenze sugli output.