Agenti bibliotecari: addestrare gli LLM a organizzare spazi di lavoro per contesti lunghi che anticipino le query future

Abstract degli autori

Ragionare su contesti documentali lunghi resta una sfida per i modelli linguistici di grandi dimensioni (LLM). I metodi standard di recupero delle informazioni sono intrinsecamente reattivi e creano un collo di bottiglia per gli agenti impegnati, durante l’inferenza, in ragionamenti complessi che coinvolgono più documenti. Le strutture precalcolate, come i grafi della conoscenza, si rivelano invece spesso insufficienti perché si basano su euristiche rigide. Possiamo allora consentire agli agenti di svolgere una curatela mirata e anticipatoria, imparando a riorganizzare proattivamente corpora non strutturati prima dell’inferenza per rispondere in modo efficiente a diverse query future? Partiamo da un’asimmetria fondamentale delle moderne infrastrutture per agenti (per esempio Claude Code): gli agenti LLM sono abili nell’esplorare i file system esistenti per svolgere un compito immediato, ma raramente vengono addestrati a costruire spazi di lavoro riutilizzabili in futuro. Per sviluppare questa capacità, presentiamo Librarian Agents, un framework in cui un agente costruttore trasforma documenti grezzi in un file system gerarchico di file sintetici e collegamenti di riferimento, creando uno spazio di lavoro su misura per un agente che dovrà rispondere alle query successive. Formuliamo la costruzione dello spazio di lavoro come un processo decisionale di Markov e ottimizziamo la strategia dell’agente costruttore mediante apprendimento per rinforzo, così da massimizzare direttamente l’accuratezza delle risposte successive. Nei test empirici, Librarian Agents supera di 33 punti percentuali su BrowseComp-Plus le migliori baseline basate sul recupero delle informazioni e sulla precomputazione, ammortizza i costi iniziali di costruzione su query ripetute e generalizza in modalità zero-shot a domini mai incontrati su BRIGHT, con un miglioramento medio dell’accuratezza di 31 punti.