TAC-CoT: catena di pensiero implicita potenziata dagli strumenti tramite l’alternanza di token espliciti

Abstract degli autori

I sistemi agentici basati su LLM vengono sempre più spesso combinati con il ragionamento CoT per risolvere compiti che richiedono ragionamenti accurati, conoscenze esterne e deliberazioni articolate in più passaggi. Tuttavia, il CoT esplicito comporta un notevole overhead di generazione, mentre il CoT implicito, che sostituisce le spiegazioni testuali con token continui compatti, non supporta naturalmente l’interfaccia di comunicazione esplicita necessaria per l’uso di strumenti da parte degli agenti. Proponiamo TAC-CoT, un framework di CoT implicito adattivo potenziato dagli strumenti, che sostituisce le tracce di ragionamento esplicite con segmenti compatti di ragionamento latente, mantenendo i token testuali solo per le chiamate agli strumenti, le osservazioni e le risposte finali. Questo design intercalato consente agli agenti di usare strumenti senza verbalizzare ogni passaggio intermedio del ragionamento. Gli esperimenti sui benchmark di matematica agentica e di domande e risposte mostrano che TAC-CoT migliora l’accuratezza fino a 8,8 punti, riducendo al contempo i passaggi forward del modello fino a 6,8 volte. Inoltre, le analisi mostrano che TAC-CoT migliora la qualità dell’uso degli strumenti sia nelle configurazioni con un singolo strumento sia in quelle con più strumenti.