FlowState: lo stato di esecuzione come memoria per gli agenti LLM impegnati in compiti a lungo termine

Abstract degli autori

I compiti a lungo termine richiedono agli agenti LLM di attingere continuamente alle informazioni delle interazioni precedenti. Conservare l’intera cronologia, però, aumenta i costi legati al contesto, mentre comprimerla rischia di far perdere dettagli necessari in seguito. Inoltre, la rilevanza delle informazioni passate spesso emerge solo con l’avanzare del compito. Per affrontare queste difficoltà, proponiamo FlowState, che tratta lo stato di esecuzione come una memoria conservabile e consultabile nuovamente da una richiesta all’altra, unificando le decisioni correnti e il riutilizzo delle informazioni passate. FlowState conserva nodi di stato tipizzati semanticamente, le loro relazioni e i riferimenti alle osservazioni grezze degli strumenti, separando la conservazione persistente dall’accesso su richiesta. All’interno di un singolo ciclo di esecuzione, Incremental State Update (ISU) mantiene aggiornato lo stato corrente sulla base di nuovi input e feedback, mentre Progressive State Access (PSA) rende progressivamente accessibili gli stati precedenti e le evidenze a supporto, secondo necessità durante il ragionamento. Insieme, questi meccanismi consentono agli agenti di rivalutare le decisioni precedenti alla luce di nuove informazioni e di orientare le azioni successive. Rispetto a una baseline con contesto completo che usa lo stesso modello DeepSeek-V4-Flash, FlowState migliora il tasso medio di successo su MemoryArena e il tasso medio di superamento su $τ^3$-Bench rispettivamente di 4,55 e 13,95 punti percentuali, riducendo al contempo il consumo totale di token del 43,2% e del 40,6%. Questi risultati dimostrano i vantaggi di FlowState in termini di prestazioni ed efficienza nei compiti a lungo termine.