TRIO: rifinitura dei compiti con ottimizzazione individuale per la generazione aumentata dal recupero

Abstract degli autori

Questo articolo studia la generazione aumentata dal recupero (RAG), che sfrutta conoscenze esterne per migliorare le prestazioni dei modelli linguistici. Nonostante i notevoli progressi, gli approcci RAG attuali sono ancora insoddisfacenti a causa di un recupero inadeguato e di possibili allucinazioni. A tal fine, proponiamo un nuovo approccio per la RAG, denominato Task Refinement with Individual Optimization (TRIO). L’idea centrale di TRIO è dotare tre agenti ben progettati di un paradigma di raffinamento iterativo, allineandone gli obiettivi di ottimizzazione individuali. In particolare, espandiamo prima le query ambigue con un agente di estensione delle query e quantifichiamo la ricompensa in base al miglioramento della qualità delle risposte; la ricompensa può essere utilizzata per perfezionare l’agente e aumentarne l’efficienza nell’espansione. Per migliorare la qualità del recupero, introduciamo una votazione unanime per classificare le query espanse come insufficienti o sufficienti, e utilizziamo i loro risultati generativi come verità di riferimento per ottimizzare l’agente giudice. Per migliorare ulteriormente l’utilizzo delle evidenze e l’accuratezza delle risposte, ottimizziamo un agente di risposta per le risposte finali mediante ricompense basate sull’abbinamento dinamico e sull’apprendimento curricolare. Esperimenti su numerosi dataset benchmark confermano l’efficacia di TRIO rispetto agli approcci allo stato dell’arte. Il nostro codice è disponibile all’indirizzo https://github.com/yingtaoren/TRIO.