The Pulse

Supersonic Labs rilascia Julia 1, un modello decisionale utilizzabile su CPU

Supersonic Labs ha rilasciato Julia 1, un modello da 144,3 milioni di parametri che funziona su una CPU e sceglie tra risposte fornite. Ha superato i punteggi di riferimento di Jev in tre dei quattro test riportati, ma è rimasto indietro in

AI.info Team · Scritto con l’IA · verificato · 2026-09-27

Il nuovo modello Julia 1 di Supersonic Labs ha superato i punteggi di riferimento di Jev in tre dei quattro test riportati, afferma il laboratorio. Ma su Banking77, un test pilota che gli chiedeva di classificare tra 72 categorie bancarie, Julia ha ottenuto il 64% contro l’87% del riferimento: un limite netto per un modello progettato per scegliere tra opzioni fornite.

Il laboratorio brasiliano ha rilasciato Julia 1 il 26 settembre come modello da 144,3 milioni di parametri progettato per la classificazione, l’instradamento, l’assegnazione di punteggi ordinati e le decisioni sì o no, anziché per la generazione di testo. I suoi risultati sono promettenti in diversi test di piccole dimensioni, ma le valutazioni dello stesso laboratorio mostrano anche dove il modello incontra difficoltà: lunghe liste di etichette simili e compiti che dipendono da conoscenze non incluse nell’input.

Julia 1 fa scelte, non conversazione

Julia riceve un contesto, una domanda e da due a 20 possibili risposte, poi restituisce un’opzione selezionata e dei punteggi. Supersonic Labs lo ha costruito sull’encoder multilingue mmBERT-small di JHU CLSP, aggiungendo una testa decisionale e addestrandolo su esempi in formato decisionale. L’azienda pubblica i pesi del modello e il codice di inferenza, ma non la pipeline di addestramento.

«Julia 1 inaugura la nostra ricerca sui modelli decisionali compatti.»

Supersonic Labs

I pesi sono disponibili con licenza Apache 2.0. Il modello funziona su una CPU, secondo la pagina di rilascio di Supersonic; il repository riporta un checkpoint da 550,5 MiB e istruzioni per l’uso in locale con Python 3.11 o versioni successive. Un’esportazione ONNX separata supporta l’inferenza nel browser tramite WebGPU.

Tre successi nei benchmark, un risultato nettamente inferiore

In una valutazione datata 24 settembre, Julia ha ottenuto il 73,15% su 2.000 decisioni tipizzate, leggermente al di sopra del riferimento Jev fornito, pari al 72,70%. Ha ottenuto 94 su 100 in un test pilota su AG News e 86 su 100 in uno su DAIR Emotion, superando i rispettivi riferimenti del 91% e del 48%. Questi valori di confronto provengono dal protocollo Jev; Supersonic non ha effettuato un nuovo confronto con Jev parallelamente a quello con Julia.

Il test pilota su Banking77 mette in luce la difficoltà di ampliare l’insieme delle opzioni. Julia ha raggiunto 64 su 100, contro il riferimento fornito dell’87%, usando un processo di selezione preliminare che restringe le 72 categorie prima di una decisione finale. Ogni test pilota di classificazione comprendeva 100 esempi, perciò i punteggi rappresentano un test limitato, più che una misura ampia delle prestazioni negli impieghi reali.

Julia ha ottenuto anche il 71,50% di macro accuracy nella classificazione degli scenari MASSIVE in 52 impostazioni locali, scegliendo tra 18 scenari, riferisce Supersonic. Il laboratorio avverte che il test riguarda la selezione degli scenari, non la classificazione degli intenti o lo slot filling. La scheda del modello precisa che i risultati non dimostrano l’accuratezza in nuovi domini o in contesti ad alto rischio.

Le misurazioni su CPU dipendono dal compito

La latenza mediana è stata di 33,15 millisecondi per decisione su un Apple M4, riferisce il laboratorio, utilizzando richieste con 100 parole di contesto e quattro opzioni. Su un Intel Core i5-1235U, la mediana riportata è stata di 107,83 millisecondi per le decisioni su AG News. Nella stessa serie di misurazioni, Banking77 ha richiesto 3.713,54 millisecondi per decisione, a causa del lavoro aggiuntivo necessario per restringere una lista di 72 etichette.

Questi dati provengono da compiti e dispositivi diversi, non da un unico confronto controllato della velocità. La pagina dell’azienda riporta anche un test su un tablet Samsung tramite ONNX Runtime, nel quale l’inferenza è ripiegata sulla CPU; la mediana è stata di 203 millisecondi per decisione. Le dimensioni ridotte di Julia rendono possibile l’esecuzione in locale, ma non eliminano i costi in termini di accuratezza e latenza delle scelte più difficili.

Un limite di 8.192 token, con un’avvertenza sull’accuratezza

Un aggiornamento del repository su Hugging Face del 27 settembre ha modificato il limite di esecuzione di Julia da 1.024 a 8.192 token complessivi per contesto, domanda e opzioni. L’aggiornamento descrive il limite come corrispondente alla capacità posizionale nativa di mmBERT, avvertendo esplicitamente che l’accuratezza su input più lunghi non è stata accertata. I risultati dei benchmark riportati sopra hanno usato il precedente limite di 1.024 token.

Supersonic prevede un’API ospitata, al prezzo di 0,025 dollari per milione di token in input, ma il servizio non è ancora aperto. Per ora, gli sviluppatori possono scaricare i pesi con licenza Apache ed eseguire il modello autonomamente; l’azienda non ha pubblicato la pipeline di addestramento.