EnvOS: audit degli agenti che usano il computer quando il mondo cambia: costruzione di compiti basata sui fenomeni, certificazione e valutazione basata sulle evidenze

Abstract degli autori

Gli agenti che usano il computer, basati su modelli linguistici di grandi dimensioni (LLM), operano in software che può cambiare mentre agiscono: un appuntamento viene spostato, una regola viene rivista, un dato viene aggiornato. Mettere alla prova gli agenti in presenza di cambiamenti simili è più difficile di quanto sembri. Quando un agente fallisce, la causa potrebbe essere l’agente stesso, ma anche un cambiamento che non si è attivato come previsto, un aggiornamento che l’agente non ha mai ricevuto o un valutatore che ha assegnato un punteggio errato all’episodio. Presentiamo EnvOS, un framework per creare e certificare ambienti che cambiano nel corso di un’attività. Prima che un agente venga eseguito, EnvOS verifica che ogni cambiamento si attivi correttamente, che l’attività resti risolvibile e che il valutatore distingua i comportamenti corretti da quelli errati; dopo ogni esecuzione, un codice separato ricontrolla il verdetto sulla base delle evidenze archiviate. Lo applichiamo alle informazioni obsolete, quando un valore già visto dall’agente cambia prima che l’agente agisca sulla base di quel valore. Nella prenotazione di visite in clinica, Claude Opus 5 completa con successo 0/16 attività quando non viene mostrato nulla in più, 2/16 quando gli viene ricordato di ricontrollare la fonte e 15/16 quando gli viene mostrato il valore aggiornato; il vantaggio rispetto al promemoria resta anche dopo la correzione per tutti i test (p = 0.00293). Nell’approvazione delle richieste di indennizzo assicurativo, Opus 5 ricontrolla autonomamente e completa con successo 10/10 attività, mentre Claude Sonnet 5 passa da 1/10 a 9/10 quando gli viene mostrata di nuovo la polizza vigente: un miglioramento significativo nel test preregistrato, ma non dopo la correzione per tutti i test. La capacità di un agente di rilevare un cambiamento variava quindi a seconda del modello e dell’interfaccia. Mettiamo inoltre alla prova la valutazione stessa: la pipeline di EnvOS non ha accettato come integri nessuno dei 26 episodi corrotti, progettati alla cieca rispetto alle regole, e ha individuato 25 episodi su 39 in un insieme generato esternamente, contro i 4 rilevati da semplici controlli dei log. Poiché ogni ambiente EnvOS viene generato a partire da un seed e valutato da un verificatore automatico sottoposto ad audit, gli stessi ambienti sono candidati naturali per addestrare agenti con l’apprendimento per rinforzo basato su ricompense verificabili.