AgentGrad: ottimizzazione dei prompt guidata da interventi per sistemi multiagente

Abstract degli autori

I sistemi multiagente (MAS) basati su modelli linguistici di grandi dimensioni (LLM) ottengono prestazioni elevate impiegando più agenti specializzati, ma le loro prestazioni dipendono da come è progettato il prompt di ciascun agente. Per ottimizzare i prompt dei MAS, i metodi basati su gradienti testuali, che guidano gli aggiornamenti dei prompt tramite feedback in linguaggio naturale, si sono affermati come approccio principale. In questo articolo individuiamo i limiti di due fasi degli approcci esistenti: l’estrazione e l’aggregazione dei gradienti. Nella fase di estrazione, i lavori precedenti selezionano un prompt da modificare senza verificare se la modifica risolva il fallimento e ricavano i gradienti senza una supervisione a livello di agente sull’output intermedio dell’agente corrispondente. Nella fase di aggregazione, i singoli gradienti vengono raggruppati casualmente e concatenati, spesso mescolando modalità di fallimento non correlate e producendo prompt che non riescono a generalizzare. Per affrontare questi limiti, proponiamo \textbf{AgentGrad}, un framework di ottimizzazione dei prompt per sistemi multiagente basato sull’intervento sequenziale e sull’astrazione semantica dei gradienti testuali. Per ogni fallimento, l’intervento sequenziale modifica il comportamento di un agente alla volta per individuare l’agente la cui modifica risolve il problema. L’output modificato di quell’agente funge poi da supervisione a livello di agente per estrarre un gradiente dettagliato. L’astrazione semantica dei gradienti testuali raggruppa i gradienti semanticamente simili per evitare di mescolare modalità di fallimento non correlate e astrae da ciascun gruppo un gradiente generalizzato che coglie lo schema correttivo comune. I risultati sperimentali mostrano che AgentGrad raggiunge prestazioni allo stato dell’arte su cinque benchmark per MAS e riduce il tempo effettivo di ottimizzazione in media di $2.5\times$ rispetto al metodo di riferimento più veloce.