Oltre la somiglianza semantica: prestazioni e costi del recupero agentico per compiti complessi

Abstract degli autori

I moderni sistemi informativi, compresi molti flussi di lavoro agentici, usano il recupero denso per esplorare grandi quantità di dati non strutturati. Il recupero denso, però, si basa su una somiglianza semantica superficiale, insufficiente per applicazioni di ricerca sempre più complesse. In questo studio esaminiamo il recupero agentico, che combina le capacità di ragionamento dei modelli linguistici di grandi dimensioni (LLM) con l’esplorazione efficiente del corpus da parte dei sistemi di recupero, all’interno di un ciclo agentico ReAct, per risolvere compiti di recupero complessi. Nei nostri esperimenti mostriamo che il recupero agentico è più efficace di quello standard: a parità di modello di embedding, migliora l’nDCG@10 di 8,7 punti. Inoltre, mentre i metodi di recupero specializzati incontrano difficoltà nei compiti fuori dominio, il recupero agentico si generalizza molto bene: la stessa pipeline ottiene risultati competitivi sia nella classifica ViDoRe v3 sia nella classifica BRIGHT. Questo miglioramento, però, ha un costo. In media, il recupero agentico richiede 107,4 secondi, contro gli 0,67 secondi del recupero standard, e consuma 764,1K token in input e 5,8K token in output per query. In sintesi, il nostro studio dimostra l’efficacia del recupero agentico nei moderni sistemi per i dati e incoraggia ulteriori ricerche su agenti di recupero meno costosi da impiegare su larga scala.