Athanor: un sistema nativo per agenti per la ricerca autonoma sul post-training

Abstract degli autori

L’auto-miglioramento ricorsivo, in cui i sistemi di IA costruiscono sistemi di IA più potenti, è una strada promettente verso la superintelligenza. Studiamo una forma più debole, misurabile già oggi: il post-training di un piccolo modello di base grezzo, eseguito da agenti all’avanguardia con dati pubblici per mettere alla prova il loro potenziale nella ricerca. Abbiamo sviluppato Athanor, un sistema aperto e nativo per agenti, dedicato alla ricerca autonoma sul post-training (AutoPostTrain) su GPU reali. Agli agenti diamo piena autonomia nella ricerca, strumenti ingegneristici facili da usare e codice di partenza efficiente. Sono gli agenti stessi a condurre la ricerca: esaminano i dataset e i risultati delle valutazioni, costruiscono i dati di addestramento, scrivono e modificano gli algoritmi di addestramento, regolano gli iperparametri e analizzano i risultati per decidere cosa provare dopo. Operano in un ambiente isolato e non possono usare modelli teacher esterni. I servizi di Athanor forniscono valutazioni fisse, job gestiti, dati decontaminati, un registro di ricerca persistente e una batteria di test tenuta da parte di cui gli agenti non sono a conoscenza. In una campagna di 104 ore, un team di quattro agenti Claude Opus 5.5, ciascuno su un nodo con otto GPU e senza indicazioni sulla ricerca, porta Qwen3-4B-Base da 15,9 a 67,3 su una batteria di sviluppo composta da sei compiti e da 9,2 a 48,2 su una batteria di test tenuta da parte, rispetto a 66,5 e 47,9 della versione ufficiale Qwen3-4B-Instruct-2507. Per quanto ne sappiamo, è la prima dimostrazione che un team di agenti all’avanguardia può eseguire autonomamente il post-training di un modello di base grezzo fino a ottenere un modello generalista capace di operare in più ambiti, che in media eguaglia o supera la versione instruct ufficiale. Il resoconto completo della campagna mostra che gli agenti raggiungono questo livello ricombinando metodi noti e i modelli prodotti dagli altri agenti: SFT su dati pubblici di ragionamento, RL con una modifica al rollout introdotta da uno degli agenti, fusioni dei pesi dei modelli degli agenti e cicli di autodistillazione. Una volta gestita l’esecuzione, gli agenti di oggi hanno già le capacità ingegneristiche e di ricerca necessarie per affrontare con successo questo compito. Ci auguriamo che Athanor offra una base per ampliare la ricerca autonoma sull’IA.