Foresight-over-Graph: ragionare oltre gli orizzonti locali per rispondere a domande sulle basi di conoscenza

Abstract degli autori

I modelli linguistici di grandi dimensioni (LLM) hanno dimostrato notevoli capacità nel rispondere alle domande, ma continuano spesso a produrre allucinazioni nei compiti che richiedono molte conoscenze. I grafi di conoscenza (KG) forniscono agli LLM una base fattuale strutturata, interpretabile e aggiornabile, e rappresentano quindi una promettente fonte esterna di conoscenza per un ragionamento affidabile. Tuttavia, i metodi esistenti di ragionamento sui grafi guidati dagli LLM si affidano in genere, durante il recupero delle evidenze, a una potatura greedy o di tipo beam a ogni salto. Questi processi decisionali locali hanno un limite intrinseco: evidenze che sembrano deboli vicino al punto di partenza possono rivelarsi cruciali solo dopo aver esplorato una parte più profonda del grafo. Di conseguenza, i rami essenziali per la risposta vengono scartati prematuramente e la catena di ragionamento diventa difficile da ricostruire. Per superare questo limite, proponiamo Foresight-over-Graph (FoG), un sistema di recupero delle evidenze che tiene conto dei passaggi successivi per rispondere a domande su basi di conoscenza (KBQA). FoG costruisce iterativamente un sottografo di evidenze pertinenti alla domanda, usa un feedback dalle parti più lontane a quelle più vicine per guidare l’esplorazione dei percorsi e mantiene un sottografo di memoria compatto per proseguire l’esplorazione. Ampi esperimenti su benchmark KBQA ampiamente utilizzati mostrano che FoG raggiunge prestazioni allo stato dell’arte, con un miglioramento particolarmente elevato del 16,58% nella metrica Hit su CWQ, riducendo al contempo le chiamate agli LLM e l’uso di token. Il nostro codice è disponibile all’indirizzo https://github.com/yhong7/FoG .