Coordinamento zero-shot tra agenti LLM

Abstract degli autori

Studiamo il coordinamento zero-shot (ZSC), in cui agenti sviluppati indipendentemente devono coordinarsi in fase di test. Sebbene la letteratura sul reinforcement learning abbia studiato a fondo lo ZSC, si sa molto meno sulle prestazioni degli agenti LLM, nonostante il loro impiego sempre più diffuso in contesti di questo tipo. I lavori esistenti sul coordinamento tra LLM si basano spesso su strutture di supporto specializzate, che difficilmente gli agenti sviluppati indipendentemente condividerebbero nella pratica. Inoltre, le valutazioni in ambienti complessi (per esempio Hanabi) rendono difficile individuare le cause dei fallimenti di coordinamento. Noi ci concentriamo invece su strutture di supporto semplici e di uso generale, in ambienti minimali progettati per isolare specifiche sfide di coordinamento. I nostri risultati mostrano che, anche in questi contesti controllati, gli agenti LLM di frontiera faticano a coordinarsi, soprattutto a causa della comprensione limitata del problema di coordinamento e della scarsa capacità di ragionare sulle convinzioni del partner. Sebbene gli LLM introducano le informazioni semantiche come ulteriore dimensione per il coordinamento, non riescono comunque a sfruttare efficacemente questa struttura. A tal fine, proponiamo le Coordination-friendly definitions (CFDs) come approccio basato su principi per consentire un coordinamento robusto tra agenti LLM. Infine, mostriamo che le CFDs possono essere individuate automaticamente, eliminando la necessità di progettarle manualmente. Il codice è disponibile all’indirizzo https://github.com/ahayler/zsc-llm-agents.