RSIFlow: workflow adattivi di automiglioramento con un meta-agente in evoluzione

Abstract degli autori

Gli agenti basati su modelli linguistici di grandi dimensioni (LLM) hanno dimostrato notevoli capacità in compiti complessi, tra cui la generazione di codice, l’uso di strumenti e la risposta a domande che richiedono più passaggi. I metodi di automiglioramento esistenti potenziano le prestazioni degli agenti attraverso l’ottimizzazione dei modelli, l’evoluzione degli harness e il perfezionamento degli artefatti eseguibili, mentre l’automiglioramento ricorsivo (RSI) estende l’ottimizzazione ai meccanismi di miglioramento stessi. Resta tuttavia una sfida fondamentale adattare i workflow di automiglioramento ai colli di bottiglia che emergono nelle prestazioni e, al tempo stesso, migliorarne l’orchestrazione sulla base del feedback ottenuto durante l’esecuzione. Proponiamo \textbf{RSIFlow}, un framework di \textbf{R}ecursive \textbf{S}elf-\textbf{I}mprovement che integra l’orchestrazione adattiva dei work\textbf{flow} con l’evoluzione delle capacità del meta-agente. RSIFlow individua i colli di bottiglia nelle prestazioni a partire dalle traiettorie dell’agente che svolge i compiti e dal feedback dell’ambiente, per selezionare dinamicamente workflow di miglioramento specifici per ciascun componente. Il meta-agente ricava poi dai risultati dei workflow competenze specifiche per ciascun componente e principi trasversali ai componenti, facendo evolvere il proprio harness per migliorare l’orchestrazione dei workflow successivi. Esperimenti condotti su sei benchmark e due modelli di base mostrano che RSIFlow raggiunge prestazioni medie allo stato dell’arte in tutti i benchmark. Studi di ablazione dimostrano inoltre il contributo dell’orchestrazione adattiva dei workflow e dell’evoluzione dell’harness del meta-agente. Il codice è disponibile all’indirizzo https://github.com/1HUAN1/RSI-Flow.