Non perdere il filo: potenziare gli agenti LLM a lungo orizzonte con l’autoallocazione delle risorse cognitive

Abstract degli autori

Gli agenti basati su modelli linguistici di grandi dimensioni (LLM) hanno compiuto notevoli progressi nella risoluzione di compiti complessi di ragionamento. Tuttavia, spesso gli agenti LLM faticano ad affrontare compiti a lungo orizzonte a causa del sovraccarico cognitivo: la loro memoria di lavoro si riempie di informazioni sempre più numerose e irrilevanti, che disperdono l’attenzione e ostacolano una pianificazione e un ragionamento efficaci. Per mitigare questo problema, presentiamo Cognitive Resource Self-Allocation (CORAL), un nuovo paradigma di ragionamento che consente agli agenti di ottimizzare proattivamente il proprio contesto. Implementato come un insieme di strumenti di gestione della memoria di lavoro richiamabili dall’agente, CORAL consente a un agente di salvare checkpoint dei progressi nell’attività e dei fatti verificati, e di avviare in modo adattivo un nuovo episodio di risoluzione dei problemi, azzerando il contesto ingombro e conservando solo le informazioni salvate nei checkpoint, così da poter riprendere il ragionamento da uno stato privo di elementi superflui. Potenziamo ulteriormente le capacità dell’agente di salvare checkpoint con un algoritmo Multi-episode Agentic Reinforced Policy Optimization. Sul benchmark GAIA, CORAL con un modello 8B raggiunge un’accuratezza media del 42,8%, con miglioramenti particolarmente significativi nei compiti a lungo orizzonte più impegnativi (Livello 2 e Livello 3). È fondamentale che questi miglioramenti si ottengano con costi di inferenza notevolmente inferiori: CORAL consuma 6-7$\times$ meno token di input rispetto a un agente ReAct. Il metodo si generalizza anche ai benchmark multi-hop di Knowledge QA e al benchmark considerevolmente più difficile BrowseComp, dove migliora di 8,0 punti i risultati di un agente proprietario molto performante.