Grafi procedurali: strutture di esecuzione autoevolutive per agenti basati su LLM

Abstract degli autori

I modelli linguistici di grandi dimensioni sono sempre più spesso impiegati come agenti che pianificano su orizzonti temporali lunghi e agiscono tramite strumenti esterni. La maggior parte degli agenti sceglie le azioni generando risposte senza vincoli sulla base di una cronologia che si accumula, lasciando implicita la conoscenza procedurale di che cosa fare, in quale ordine e a quali condizioni. Man mano che le traiettorie si allungano, gli agenti possono perdere di vista i propri obiettivi, usare gli strumenti nell’ordine sbagliato e ripetere azioni improduttive. Presentiamo il Procedural Graph: così come un grafo della conoscenza organizza le conoscenze fattuali in triplette (entità, relazione, entità) per rispondere a domande su che cosa sia qualcosa, il Procedural Graph organizza le conoscenze procedurali in triplette (procedura, relazione, procedura) per rispondere a domande su che cosa fare. A ogni passaggio decisionale, il sistema individua il nodo attivo dell’agente e un modello di guida traduce il sottografo circostante in indicazioni contestuali per il singolo passaggio, che orientano l’azione successiva dell’agente risolutore senza imporla. Il grafo si evolve autonomamente: un LLM incaricato di perfezionarlo confronta le traiettorie fallite con quelle riuscite e modifica la topologia e gli attributi del grafo, applicando le modifiche che mantengono o migliorano le prestazioni su dati di validazione tenuti da parte e conservando quelle respinte per scoraggiarne la ripetizione. Partendo da una struttura minima, il ciclo costruisce grafi che eguagliano o superano quelli progettati manualmente. Può anche correggere un’impostazione iniziale difettosa fornita da esperti. Su diversi dataset, tipi di compiti e LLM, il Procedural Graph offre miglioramenti costanti rispetto ai metodi di riferimento basati sulla memoria; l’evoluzione autonoma migliora ulteriormente le prestazioni senza interventi manuali di progettazione.