Quale livello di sforzo scegliere? L’economia dello sforzo di ragionamento negli agenti LLM

Abstract degli autori

I modelli generativi offrono sempre più spesso un’impostazione che consente agli utenti di aumentare lo sforzo di ragionamento in fase di inferenza, sostenendo un costo maggiore in cambio di prestazioni potenzialmente migliori. Gli utenti devono scegliere un livello di sforzo prima di sapere se un ragionamento aggiuntivo sarà utile e, anche quando l’esecuzione ha successo, non possono sapere se lo sforzo pagato fosse necessario. Lo sforzo di ragionamento è quindi un bene fiduciario: chi acquista osserva il risultato, ma non può valutare il valore marginale del calcolo per cui ha pagato. In questo lavoro misuriamo l’effetto controfattuale dei livelli di sforzo su modelli proprietari e a pesi aperti, usando quattro benchmark che comprendono sia compiti di ragionamento in una singola chiamata sia compiti agentici su orizzonti lunghi. Emerge che un livello di sforzo più alto non mantiene sistematicamente i successi ottenuti con uno sforzo inferiore, può comportare una spesa eccessiva e può modificare il comportamento degli agenti lungo le traiettorie. In primo luogo, riscontriamo che, sebbene uno sforzo maggiore possa aumentare l’accuratezza complessiva, spesso non riesce a risolvere compiti che uno sforzo inferiore aveva risolto. In secondo luogo, nel sottoinsieme dei compiti facili che vengono risolti a ogni livello di sforzo, uno sforzo maggiore è generalmente più costoso: il livello massimo arriva a costare 42 volte quello minimo. Infine, lo sforzo modifica non solo il numero di token utilizzati, ma anche il modo in cui gli agenti risolvono i compiti: a livelli più alti, gli agenti verificano più a fondo il proprio lavoro e cercano più spesso soluzioni anziché affrontare direttamente i problemi. Entrambi questi comportamenti allungano le traiettorie senza necessariamente cambiare il risultato. Questi risultati mostrano che scegliere automaticamente il livello massimo non solo è inefficiente in termini di costi, ma non garantisce neppure le migliori prestazioni sui singoli compiti. Una semplice alternativa — iniziare dal livello minimo e aumentarlo solo dopo un fallimento verificato — eguaglia o supera l’uso costante del livello massimo su tutti i modelli e i benchmark, a un costo inferiore per la maggior parte dei modelli proprietari.