Dream2Discern: imparare da varianti latenti difficili per prevedere i fallimenti in fase di esecuzione nei sistemi multi-agente

Abstract degli autori

Per impiegare in modo affidabile sistemi multi-agente basati su LLM servono sistemi di controllo che, durante l’esecuzione, prevedano gli esiti finali a partire dai prefissi osservati delle esecuzioni. In genere, questi sistemi apprendono da un corpus limitato di traiettorie con esiti verificati. Ampliare il corpus richiede esecuzioni e verifiche costose, ma una copertura più ampia dei fallimenti non offre, da sola, un criterio esplicito per individuare i prefissi che il sistema di controllo attuale fatica a classificare. A questo scopo proponiamo Dream2Discern, un sistema di controllo in fase di esecuzione addestrato mediante un’augmentazione implicita guidata dal proprio errore di previsione. Nella fase Dream selezioniamo perturbazioni degli operatori di rappresentazione del sistema di controllo per aumentare l’errore di previsione sui prefissi registrati, ottenendo varianti latenti difficili. Nella fase Discern il sistema impara a prevedere gli esiti delle esecuzioni a partire da queste varianti, usando le etichette originali. Le varianti vengono rigenerate man mano che il sistema apprende, trasformando un corpus limitato in una fonte rinnovabile di esempi difficili, senza richiedere la raccolta di ulteriori traiettorie né la verifica di altri esiti. Valutazioni approfondite su AFTraj-2K e StepShield mostrano che Dream2Discern supera altri sistemi competitivi di previsione dei fallimenti e raggiunge un’accuratezza ponderata a livello di traiettoria superiore al 90% su entrambi i benchmark, bilanciando accuratezza e tempestività delle previsioni. Pagina del progetto: https://zbox1005.github.io/dream2discern-project/