REM: cosa conservare, quando richiamare, cosa dimenticare nella memoria delle esperienze degli agenti di programmazione

Abstract degli autori

Gli agenti basati su modelli linguistici di grandi dimensioni (LLM) completano ormai autonomamente compiti di lunga durata, come la programmazione a livello di repository, attraverso centinaia di passaggi di ragionamento e azione. Eppure, l’esperienza prodotta da ciascuna esecuzione viene raramente riutilizzata in quella successiva. I sistemi di memoria precedenti si concentrano sul recupero della traiettoria passata più pertinente. Il recupero, però, non può osservare l’agente mentre opera e quindi non può decidere se abbia bisogno di un’esperienza, in quale momento o per quanto tempo. Presentiamo REM (Reusable Experience Memory), un framework che gestisce il ciclo di vita della memoria dall’interno del ciclo di ragionamento e azione dell’agente attraverso tre decisioni esplicite. **Cosa conservare:** ogni traiettoria completata viene condensata in un documento strutturato per fasi, più piccolo della traiettoria di due ordini di grandezza. **Quando richiamare:** il documento viene inserito all’inizio del compito; il resoconto dell’implementazione, più oneroso, viene tenuto da parte finché un meccanismo di controllo interno al ciclo non rileva che l’agente è in difficoltà. **Cosa dimenticare:** il resoconto viene rimosso dopo essere stato mostrato una sola volta. Nella correzione di bug a livello di repository (SWE-ContextBench Lite), REM recupera la traiettoria pertinente con maggiore accuratezza rispetto a tutti i sistemi di memoria più avanzati (68,7% contro 55,6% di match@1) e migliora, in ogni replica, la risoluzione finale del compito (27,6% contro 24,9%) con un costo inferiore del 17%. Inserire la stessa esperienza sotto forma di riassunto o di traiettoria grezza, anche quando viene recuperata tramite un oracolo, non produce tale miglioramento. Eliminare una qualsiasi delle tre decisioni riduce la risoluzione. Nel complesso, questi risultati dimostrano che il limite al riutilizzo dell’esperienza non è la fedeltà del recupero, ma il modo in cui l’esperienza viene conservata e gestita durante il suo ciclo di vita, aprendo una prospettiva basata sulla teoria del controllo sulla memoria degli agenti.