Arresto anticipato senza calibrazione per il ragionamento chain-of-thought mediante e-processi

Abstract degli autori

I modelli linguistici di grandi dimensioni (LLM) per il ragionamento traggono beneficio dall’aumento delle risorse impiegate in fase di test. Questo motiva strategie adattive che impiegano token quando sono utili e altrimenti si fermano in anticipo. Le regole esistenti si arrestano quando un segnale di confidenza o stabilità supera una soglia, ma tali soglie raramente si trasferiscono tra modelli e dataset diversi. Inoltre, le regole calibrate su dati di validazione perdono le proprie garanzie quando cambiano la durata del ragionamento in fase di test o la dinamica del segnale. Riformuliamo l’arresto adattivo come accumulo sequenziale di evidenza lungo la traiettoria del ragionamento, anziché come calibrazione di soglie su dati tenuti da parte. Il nostro metodo esegue due e-processi su un segnale condiviso, calcolato per ciascun blocco: un flusso di commit segue la posizione del segnale rispetto alla sua tendenza lenta, mentre un flusso di astensione ne segue la velocità con segno. I due flussi sono quindi anticorrelati per costruzione. Sotto ipotesi nulle a livello di segnale sugli incrementi per blocco, la disuguaglianza di Ville fornisce un limite ai falsi allarmi a livello di segnale, valido in ogni momento ai livelli di significatività stabiliti dall’utente, senza calibrazione su dati tenuti da parte. Su varie combinazioni di modelli e dataset, il metodo eguaglia o supera le strategie di arresto basate sulla calibrazione sulla frontiera di Pareto tra token e accuratezza, senza usare dati di calibrazione. Lo stesso livello di significatività si trasferisce senza modifiche anche alle combinazioni per cui la calibrazione diventa impraticabile.