Perché pagare per ragionamenti lunghi quando basta riscriverli? Effetti causali della compattazione della cronologia del ragionamento sulla generazione futura e sui costi degli agenti

Abstract degli autori

Il ragionamento migliora notevolmente la capacità dei modelli linguistici di risolvere problemi difficili, ma le lunghe tracce di ragionamento rendono costosi questi progressi. Un ragionamento efficiente dovrebbe esprimere analisi utili con meno token, riducendo ripetizioni e testo che aggiunge poco alla soluzione del problema. I progressi dei modelli proprietari rendono questo obiettivo ancora più importante, ma i loro scratchpad nascosti limitano lo studio diretto dei metodi con cui viene raggiunto. Esaminiamo se i modelli open-weight possano generare ragionamenti meno prolissi modificando la forma dei propri pensieri precedenti, senza essere riaddestrati. Il nostro intervento riscrive il ragionamento precedente sotto forma di registrazioni compatte dello stato, prima di rivelare i risultati degli strumenti ancora in sospeso, quindi confronta le continuazioni basate sulle cronologie originali e su quelle compatte. Nei modelli testati, le cronologie compatte accettate di solito rendono più breve il ragionamento successivo; un caso di studio sulla programmazione mostra anche una riduzione delle verifiche ripetute dopo aver condiviso una possibile soluzione. Nelle implementazioni di agenti software, la compattazione può ridurre la spesa totale, anche se la qualità delle attività e il tempo complessivo, inclusa la riscrittura, dipendono dal modello bersaglio e dal compressore. Questi risultati individuano nella cronologia del ragionamento un modo per ridurre il consumo futuro di token di ragionamento e suggeriscono politiche di compattazione specifiche per ciascun modello, da valutare sia in termini di efficienza sia di capacità preservate.