Servono workflow per far evolvere workflow migliori

Abstract degli autori

Affrontare compiti complessi del mondo reale può superare le capacità di un singolo modello linguistico di grandi dimensioni (LLM). Da qui l’interesse per i workflow multiagente, che coordinano agenti specializzati affinché collaborino a questi compiti. Alcuni metodi recenti addestrano gli LLM a costruire workflow migliori sulla base dei risultati delle esecuzioni, ma ottimizzano soltanto il generatore di workflow. Gli altri agenti che costruiscono o eseguono ciascun workflow restano invariati, benché ogni risultato dipenda da tutti loro. Estendere l’addestramento oltre il generatore, però, è difficile: gli agenti sono interdipendenti e il risultato di un workflow è espresso da un unico punteggio sparso, che non permette di capire quale agente causi un fallimento. Proponiamo FloWright, che sfrutta il workflow come struttura di supporto per ottimizzare i workflow. Introducendo un paradigma di ricompensa gerarchico che tiene conto della struttura, FloWright consente a un ruolo di evolversi autonomamente e a due o più ruoli di coevolvere, senza modelli, etichette o esecuzioni aggiuntive. Poiché i workflow vengono comunemente addestrati e valutati su dati che un singolo agente è già in grado di gestire, proponiamo inoltre DataWright, un approccio adattivo che aumenta la difficoltà dei dati e trasforma i dataset esistenti in compiti a livello di workflow più difficili. In compiti relativi a documenti, slide, grafici, codice, matematica e finanza, piccoli modelli aperti addestrati con FloWright migliorano le prestazioni fino a $+7.41\%$: la coevoluzione di più ruoli ($+5.03\%$) produce miglioramenti maggiori rispetto all’ottimizzazione di uno solo ($+2.83\%$). La pagina del progetto: https://xhguo7.github.io/FloWright/.