Axion 1.0: modelli fondazionali aperti per agenti, semplificati

Abstract degli autori

Presentiamo Axion 1.0, un modello fondazionale per agenti completamente aperto, che combina capacità agentiche solide e ampie con una procedura di addestramento notevolmente semplice. Axion 1.0 viene addestrato in sole tre fasi: due fasi leggere di fine-tuning supervisionato, seguite dall’apprendimento per rinforzo, senza una fase intermedia dedicata, ottimizzazione diretta delle preferenze (DPO) né distillazione on-policy (OPD). La prima fase di SFT sviluppa solide capacità di ragionamento autonomo attraverso una costruzione dei dati adattata al modello: sintetizziamo problemi impegnativi e li rendiamo più avversari basandoci sulle strategie di soluzione efficaci del modello di base. La seconda fase estende queste capacità al ragionamento che dipende dall’uso di strumenti, attraverso una pipeline scalabile per creare compiti diversificati e verificabili automaticamente, basati su fonti di dati del mondo reale e su calcoli deterministici. Infine, l’apprendimento per rinforzo rafforza ulteriormente il ragionamento a lungo orizzonte e l’interazione con strumenti e ambienti esterni. Nonostante questa procedura di addestramento compatta, Axion 1.0 ottiene risultati solidi in un’ampia serie di benchmark agentici ed è competitivo con i principali modelli commerciali in diversi di essi. Altrettanto importante, Axion 1.0 è aperto anche oltre i pesi del modello: rendiamo disponibile la procedura completa, che comprende la costruzione dei dati, la generazione, il filtraggio, la verifica, i prompt e il codice di addestramento, così da consentire di riprodurre e ampliare l’intero processo di sviluppo. Axion 1.0 dimostra che i modelli fondazionali per agenti possono essere al tempo stesso solidi e aperti, e semplici, offrendo un percorso pratico e riproducibile per far progredire l’intelligenza agentica aperta.