L’accuratezza dei monitor non è la risposta: un framework del valore decisionale per valutare i monitor di riavvio degli agenti di IA

Abstract degli autori

La sola accuratezza di classificazione e i tassi di veri positivi e falsi positivi non determinano se riavviare un agente di IA migliori le sue probabilità di successo. Usando un’identità esatta tra allarme e azione per un riavvio pulito e indipendente, senza costi di monitoraggio, mostriamo analiticamente che un monitor con accuratezza fissa del 90% può far passare il tasso di successo da una perdita di cinque punti percentuali a un guadagno di 35 punti percentuali, a seconda esclusivamente della probabilità di successo del tentativo sostitutivo con il budget residuo. Introduciamo due tecniche per valutare i monitor e i segnali di progresso in termini decisionali. In primo luogo, un criterio di sufficienza decisionale, una specializzazione per azioni binarie del confronto di esperimenti di Blackwell, individua quali rappresentazioni del progresso o compressioni del contesto preservano le informazioni necessarie per scegliere in modo ottimale tra le azioni specificate, indipendentemente dalla fedeltà con cui vengono ricostruite le tracce. In secondo luogo, un audit decisionale senza modello, basato su campioni finiti, usa intervalli binomiali simultanei sulle tracce di agenti esistenti, senza ulteriori chiamate al modello, per certificare una preferenza per «riavviare» o «continuare» in base alle ipotesi di campionamento dichiarate, oppure per restituire «astenersi» quando le prove sono insufficienti. In uno studio su 194 esecuzioni di modelli valutate esternamente, relative a 19 problemi selezionati di SymPy tratti da SWE-bench Verified, con un audit retrospettivo di 130 di queste tracce, rileviamo un apparente guadagno di 2,29 punti con il riavvio, riconducibile a un unico tentativo fallito sopravvissuto, una perdita di 42,29 punti su un secondo modello, nessuna replica positiva del guadagno iniziale nelle coorti di task prospettiche e zero confronti in tempo reale su 103 che raggiungano la soglia di certificazione specificata. Questi risultati suggeriscono di valutare i monitor degli agenti considerando le opportunità di recupero, il valore decisionale e il supporto statistico, anziché basarsi soltanto sulle prestazioni di classificazione.