LadderEdit: compressione dei residui a livello di singola modifica per la modifica continua degli LLM con un uso efficiente della memoria

Abstract degli autori

La modifica continua degli LLM richiede di conservare migliaia di modifiche dopo la loro acquisizione. Una famiglia di approcci molto diffusa associa un adattatore LoRA a ciascuna modifica: questo preserva il comportamento del modello, ma lo spazio di archiviazione cresce in modo lineare. Per affrontare il problema, proponiamo LadderEdit, un metodo che comprime ogni adattatore LoRA dopo la sua acquisizione. Ogni modifica viene inizialmente conservata a basso rango, sotto forma di una rappresentazione approssimativa poco onerosa. Verifichiamo poi, mediante prompt di prova, se questa rappresentazione soddisfa ancora i requisiti di riscrittura, generalizzazione e località. Le modifiche che superano la verifica mantengono la rappresentazione a basso rango; per quelle che non la superano, il rango viene aumentato lungo una scala finché i requisiti non sono soddisfatti. Poiché ogni modifica conserva una propria rappresentazione, la copertura viene mantenuta e solo le modifiche difficili richiedono un rango più elevato. Nei benchmark ZsRE, CounterFact e WikiBigEdit su LLaMA-3-8B, Mistral-7B e Qwen2.5-7B, LadderEdit ottiene risultati in linea con quelli dell’archiviazione esatta degli adattatori LoRA usando 5,2 volte meno memoria e rimane efficace anche dopo 50.000 modifiche sequenziali.