Apprendere meta-competenze per progettare gli ambienti di esecuzione degli agenti nell’IA per l’IA in fase di test

Abstract degli autori

Le prestazioni di un agente dipendono sia dalla sua capacità di ragionamento sia dall’ambiente in cui opera. Studiamo l’IA per l’IA in fase di test, chiedendoci come un Builder possa imparare a costruire ambienti di esecuzione migliori per un Target mentre i pesi di entrambi i modelli restano invariati. Per rendere riutilizzabile l’esperienza del Builder, introduciamo Meta-Skill: principi che specificano quando serve supporto e quali risorse fornire. Il Builder apprende questi principi dal feedback sull’esecuzione del Target nel set di sviluppo, poi usa il repertorio di competenze congelato per costruire ambienti di esecuzione per compiti mai visti. Su Harness-Bench e NewtonBench, le meta-competenze del repertorio completo migliorano le prestazioni medie macro di 8,95 punti percentuali rispetto alla costruzione senza competenze e di 12,02 punti rispetto alla consegna diretta dello stesso repertorio al Target. Questi risultati evidenziano il valore di trasformare l’esperienza in supporto operativo. I miglioramenti ottenuti quando lo stesso modello svolge entrambi i ruoli suggeriscono inoltre una strada verso l’auto-miglioramento a livello di sistema: imparare a costruire ambienti migliori.