WorkFactory: trasformare gli intenti professionali in attività eseguibili per addestrare agenti su larga scala

Abstract degli autori

Per ampliare l’addestramento supervisionato degli agenti operativi servono attività professionali diversificate, che forniscano dimostrazioni affidabili da parte di esperti. Tuttavia, informazioni mancanti o incoerenti sulle attività possono ostacolare l’esecuzione da parte del modello teacher e indebolire la supervisione che ne deriva. Proponiamo WorkFactory, un framework scalabile per creare attività professionali coerenti ed eseguibili. A partire dagli intenti professionali, la pianificazione a livello informativo costruisce un grafo di supporto informativo che guida la definizione delle attività e rappresenta esplicitamente le dipendenze e la posizione delle informazioni necessarie per ottenere i risultati previsti. Le esecuzioni di prova individuano quindi le carenze di supporto e guidano le correzioni, preservando il lavoro previsto. Creiamo 112.686 attività in 612 professioni e usiamo le traiettorie raccolte dai modelli teacher per eseguire il fine-tuning dei modelli Qwen alle scale 4B, 27B e 35B-A3B, ottenendo la famiglia WorkPilot. Tutti e tre i modelli migliorano rispetto ai rispettivi modelli di base in quattro benchmark sul lavoro professionale; WorkPilot-35B-A3B passa da 879 a 1565 punti Elo su GDPval-AA v2.1. Le analisi di scaling rivelano rendimenti decrescenti che dipendono dal modello, mentre la lunghezza delle esecuzioni prima aumenta e poi diminuisce. Le analisi controllate delle componenti mostrano che la pianificazione e la correzione riducono i difetti dell’ambiente delle attività individuati dalle esecuzioni di prova e migliorano le prestazioni successive. I dati e i modelli sono disponibili su https://github.com/IQuestLab/WorkFactory.