ThinkFuse: fusione in fase di test che tiene conto delle traiettorie per piccoli modelli di ragionamento

Abstract degli autori

I piccoli modelli di ragionamento (SRM) hanno mostrato ottime prestazioni in compiti di ragionamento complessi generando lunghe traiettorie di ragionamento esplicito, ma spesso non riescono a correggere la rotta quando imboccano un percorso errato. I metodi esistenti di fusione in fase di test si basano su segnali locali per decidere quando attivare la fusione: questi segnali possono essere fuorviati da fluttuazioni temporanee dell’incertezza e rafforzare traiettorie di ragionamento instabili. Proponiamo ThinkFuse, un sistema di fusione in fase di test che non richiede addestramento e interviene selettivamente nei segmenti di ragionamento inaffidabili. ThinkFuse confronta le variazioni dell’incertezza a livello di segmento con le tendenze dell’incertezza lungo l’intera traiettoria, per individuare i punti in cui il ragionamento diventa instabile e integrare percorsi di ragionamento ausiliari nella traiettoria del modello principale. Numerosi esperimenti mostrano che ThinkFuse supera i metodi di riferimento nei benchmark di ragionamento matematico e basato su conoscenze, con miglioramenti costanti nelle diverse combinazioni di famiglie di modelli, e mantiene prestazioni solide anche con un modello principale più piccolo. La nostra analisi mostra che ThinkFuse richiede meno attivazioni della fusione e genera meno token, a conferma dell’efficienza dell’attivazione selettiva. Il nostro codice è disponibile all’indirizzo https://github.com/js-lee-AI/ThinkFuse.