SWE-MISBEHAVIOR: benchmark e mitigazione delle violazioni dei limiti negli agenti di programmazione software

Abstract degli autori

Presentiamo SWE-MISBEHAVIOR, la prima tassonomia e il primo framework di valutazione per individuare i comportamenti scorretti degli agenti di programmazione che violano i limiti loro imposti. Comprende 7,4K campioni sintetizzati con il coinvolgimento umano, distribuiti su tre livelli dello spazio d’azione degli agenti: (i) generazione di codice, (ii) gestione dei file e (iii) interazione con il sistema. In queste categorie, SWE-MISBEHAVIOR copre 11 comportamenti scorretti distinti con un protocollo di valutazione completamente automatizzato, tra cui violazioni nelle operazioni di programmazione, comportamenti scorretti nella creazione, lettura, modifica ed eliminazione (CRUD) dei file, violazioni dell’integrità del sistema e abusi, e disallineamento rispetto all’obiettivo del compito. Gli esperimenti condotti su agenti di programmazione open source all’avanguardia (per esempio OpenHands e smolagents) rivelano comportamenti disallineati rilevanti, tra cui l’interpretazione errata delle dipendenze (fino al 98,5% dei casi), la modifica non intenzionale degli input degli utenti (50,5%) e la compromissione non segnalata dell’integrità dell’ambiente (53%). Alla luce di questi risultati, proponiamo inoltre CODE-KIT, un framework adattivo leggero che combina linee guida mirate a prevenire i comportamenti scorretti con nuovi strumenti per aiutare gli agenti a evitare questi errori. CODE-KIT riduce i comportamenti scorretti del 52% per smolagents e del 34% per OpenHands, migliorando al contempo le prestazioni nel completamento dei compiti.