TokenEconomizer: controllo dei costi black-box basato sull’esperienza per agenti di programmazione

Abstract degli autori

I progressi degli agenti di programmazione all’avanguardia hanno fatto aumentare nettamente i costi in token dell’ingegneria del software assistita dall’IA. La loro efficienza nell’uso dei token viene in genere valutata su compiti isolati, mentre nella pratica gli sviluppatori li usano per costruire, aggiornare e mantenere continuamente progetti su larga scala. Questa discrepanza ci spinge a valutare gli agenti su sequenze di compiti di programmazione realistici, nelle quali rileviamo che presentano costi in token ricorrenti e dipendenti dall’ambiente, che i metodi esistenti faticano a ridurre. Per minimizzare questi costi, presentiamo TokenEconomizer, un controller esterno che riduce i costi in token specifici dell’ambiente lungo una sequenza di compiti. I risparmi derivano dall’individuare (i) quali micro-competenze operative inserire, (ii) quali strumenti persistentemente irrilevanti eliminare e (iii) quando intervenire in cicli improduttivi di fallimento. Con Claude Code, Codex e GitHub Copilot CLI abbinati a modelli all’avanguardia, TokenEconomizer riduce il costo medio in token del 18,4–30,9%, con risultati comparabili nel successo dei compiti. I risparmi si mantengono in ogni repository e in ogni configurazione agente-modello testata e si estendono a domini diversi, come lo sviluppo web sequenziale e l’auditing della sicurezza, dove i costi diminuiscono del 6,4–21,2%, a seconda della struttura dei compiti. Il nostro lavoro individua nel controllo adattivo dei costi black-box una direzione promettente per ridurre i costi in token degli agenti di programmazione in contesti realistici.