Risparmi nel riapprendimento specifici per associazione

Abstract degli autori

Quando diventa più difficile far emergere un fatto da un modello linguistico, il modello lo ha dimenticato o è soltanto diventato meno accessibile? Gli agenti di apprendimento continuo al tempo del test che aggiornano i parametri vengono di solito valutati in base all’accuratezza delle risposte correnti; ci chiediamo se questa misura colga il modo in cui le esperienze precedenti influenzano gli aggiornamenti successivi. Verifichiamo se apprendere una specifica associazione fattuale produce, in seguito, un vantaggio nel riapprendimento che va oltre la familiarità con l’entità, il vocabolario delle risposte, il formato o lo slot della query. Con Qwen2.5-1.5B, confrontiamo tre storie appaiate e controbilanciate: LEARNED riceve l’associazione corretta, CONTROL riceve un’esposizione equivalente senza tale associazione e WRONG riceve, nello stesso slot, una risposta concorrente valida rispetto alla relazione. Dopo un flusso identico di fine-tuning continuo senza ripasso, LEARNED riacquisisce il target più rapidamente di CONTROL, a un checkpoint prestabilito di oblio parziale. WRONG non mostra alcun vantaggio positivo rispetto a CONTROL, mentre il confronto con LEARNED fornisce una corroborazione a parità di slot, pur potendo risentire di una possibile interferenza del concorrente. Il vantaggio resta positivo anche dopo aver corretto i risultati per il comportamento misurato prima del riapprendimento. In una conversione descrittiva secondaria, basata su un insieme non appaiato di elementi mai visti, l’apprendimento precedente riduce di circa il 18% gli aggiornamenti dell’ottimizzatore necessari per ripristinare l’associazione. L’accuratezza comportamentale corrente può quindi sottostimare gli effetti duraturi delle esperienze acquisite in precedenza. Il codice è disponibile all’indirizzo https://github.com/zhezhou1106/relearning-savings