StepBack: ricampionamento a livello di passaggio localizzato sugli errori per un ragionamento efficiente in fase di test

Abstract degli autori

La self-consistency (SC) è una strategia di decodifica ampiamente utilizzata per migliorare il ragionamento a catena di pensiero, ma richiede di campionare molte traiettorie di ragionamento complete con un budget prestabilito. Le sue varianti efficienti riducono i costi soprattutto interrompendo in anticipo il campionamento delle traiettorie complete o distribuendo il numero di campioni tra le domande. In questo articolo proponiamo StepBack, un metodo di ricampionamento a livello di passaggio, localizzato sugli errori, per un ragionamento efficiente in fase di test. Partendo da un piccolo insieme di traiettorie preliminari, StepBack individua le probabili posizioni del primo errore usando segnali leggeri e poi ricampiona il passaggio in cui è stato rilevato l’errore e il suffisso che lo segue, prima di procedere al voto a maggioranza sulle risposte. Empiricamente, StepBack eguaglia in media l’accuratezza della SC su sette benchmark di ragionamento matematico e QA multi-hop, riducendo al contempo l’uso di token fino al 41,26%. Inoltre, per sua natura, StepBack può essere combinato con metodi di inferenza adattiva come Adaptive Consistency, migliorando ulteriormente l’efficienza in fase di inferenza.