Vai al contenuto
AI.info

The Pulse

RadixArk lancia DaisyRose-27B e rivendica una maggiore efficienza nel post-training

DaisyRose-27B è un post-addestramento di Qwen3.8-27B basato sull’apprendimento per rinforzo, con checkpoint disponibili con licenza Apache 2.0. RadixArk riferisce punteggi più alti nei benchmark e un minor tempo di utilizzo delle GPU rispetto a una configurazione di addestramento open source comparabile.

RadixArk lancia DaisyRose-27B e rivendica una maggiore efficienza nel post-training

DaisyRose-27B porta il punteggio pass@1 di Terminal-Bench 4.1 dal 5,6% del modello di base al 12,0%, secondo il suo sviluppatore RadixArk. Il modello, pubblicato il 18 novembre, è il primo di RadixArk e si basa su Qwen3.8-27B, utilizzando l’apprendimento per rinforzo.

L’azienda afferma di aver addestrato il modello su circa 1.200 compiti per agenti selezionati, nell’arco di 18 giorni e utilizzando 144 GPU H200. Durante l’addestramento, le sessioni arrivavano fino a 1 milione di token; per estendersi su più traiettorie veniva usata la sintesi.

Il modello e i risultati nei benchmark

La versione rilasciata mantiene l’architettura, il tokenizer, il template per le chat, la comprensione delle immagini e la finestra di contesto di 256K token del modello di base. I checkpoint sono disponibili nei formati BF16, FP8 e NVFP4 con licenza Apache 2.0.

Per impostazione predefinita, il modello ragiona prima di rispondere e restituisce il ragionamento separatamente dalla risposta finale. L’azienda consiglia di servire il modello con SGLang e la decodifica speculativa di DSpark.

RadixArk riferisce miglioramenti in tutti e sette i benchmark del confronto con Qwen3.8-27B. Su DeepSWE v1.1, il punteggio riportato è salito da 42,2 a 46,2; su IFBench, è passato da 79,5 a 82,4. Per ciascun benchmark, il punteggio riportato è il più alto tra quelli ottenuti con BF16 e FP8; nei casi in cui sono stati valutati entrambi, i risultati differivano di meno di un punto.

Compiti progettati intorno agli errori

RadixArk ed Eigent AI hanno sviluppato migliaia di compiti candidati in ambiti che comprendono l’apprendimento automatico, l’ingegneria del software e le scienze. Circa 1.200 sono entrati nel set di addestramento finale.

RadixArk ha eseguito il modello di base su ciascun compito e ha riprogettato i compiti in base agli errori che voleva correggere, regolando la difficoltà per ottenere un tasso di soluzione utile. I compiti richiedevano più passaggi dipendenti l’uno dall’altro e i tentativi si svolgevano in sandbox in cui l’agente poteva eseguire comandi, modificare file ed essere valutato.

Ogni tentativo poteva durare fino a 1,5 ore, con oltre 100 chiamate agli strumenti e più di 256K token in uscita. Dopo una revisione, i compiti che potevano essere superati senza risolvere il problema previsto o che presentavano difetti di progettazione sono stati corretti o rimossi.

Configurazione di addestramento e stime dei costi

Il modello rilasciato è stato addestrato con Miles, il framework open source di RadixArk per l’apprendimento per rinforzo, in una configurazione asincrona: gli agenti continuavano a lavorare mentre il modello apprendeva. In questa configurazione, 128 GPU H200 eseguivano l’inferenza sui compiti degli agenti e altre 16 eseguivano il trainer; dopo ogni passaggio, i modelli aggiornati venivano inviati alle GPU per l’inferenza.

RadixArk afferma che il suo backend interno destinava il 37% della potenza di calcolo di picco di ciascuna GPU a lavoro di addestramento utile, rispetto al 16% di un trainer open source basato su Megatron in esecuzioni comparabili. Su questa base, l’azienda afferma che lo stesso addestramento richiede il 57% di tempo GPU in meno.

Considerando il tempo che gli agenti hanno trascorso sui compiti, l’esecuzione di addestramento del modello rilasciato ha raggiunto circa 16.800 token al secondo sulle sue 144 GPU, rispetto a circa 8.300 sulle stesse GPU con il trainer open source, secondo RadixArk.

Infrastruttura sandbox

Il servizio sandbox si basa sul progetto open source AgentENV. Tra metà settembre e metà novembre ha eseguito circa 944.000 sandbox per il progetto, con un massimo di 1.566 in esecuzione contemporaneamente, afferma RadixArk.

Nel corso di nove settimane, il 99% delle creazioni di sandbox è andato a buon fine; dalla fine di ottobre la percentuale ha superato il 99,95%, secondo l’azienda. Il servizio è passato da una macchina a un massimo di 12 e ha ricevuto dieci aggiornamenti, quasi tutti mentre l’addestramento era in corso.

L’azienda stima che l’infrastruttura cloud per le sue sandbox sia costata circa l’80% in meno rispetto all’esecuzione delle stesse sandbox con i più diffusi fornitori di sandbox cloud. Il servizio consente di aumentare o ridurre l’allocazione di memoria di ciascuna sandbox in base all’utilizzo, permettendo a un numero maggiore di sandbox di condividere una macchina.

Fonte

  1. RadixArk

Notizie correlate

Esplora

Altri articoli