The Pulse
Baseten lancia Joey-1, un modello decisionale da 2B al prezzo di 0,01 dollari per milione di token in input
Baseten ha annunciato joey-1, un modello da 2 miliardi di parametri per compiti decisionali, al prezzo di 0,01 dollari per milione di token in input attraverso le sue Model APIs. La sua scheda riporta un punteggio di 63,30 sulla partizione
AI.info Team · Scritto con l’IA · verificato ·
Il 29 ottobre 2026 Baseten ha annunciato joey-1, un modello da 2 miliardi di parametri progettato per prendere decisioni senza generare una risposta scritta. Secondo l’azienda, il modello restituisce una decisione e il relativo livello di confidenza in un unico passaggio in avanti, ed è destinato a compiti come lo smistamento dei ticket di assistenza o la verifica delle richieste rispetto alle regole di approvazione.
Joey-1 restituisce probabilità, non testo
Le applicazioni forniscono a joey-1 uno stato, sotto forma di testo eventualmente accompagnato da immagini, e una serie di domande. La scheda del modello descrive domande a cui rispondere sì o no, scelte tra opzioni nominate e assegnazione di punteggi ordinati: il modello restituisce le probabilità delle risposte disponibili. Il software ottiene così direttamente un risultato strutturato, invece di chiedere al modello di generare un testo che un altro sistema deve interpretare.
Baseten presenta il formato come utile quando le decisioni sono frequenti o intervengono nel processo che porta a una risposta destinata all’utente, situazioni in cui il costo e il ritardo di ogni chiamata contano. L’annuncio dell’azienda definisce così l’output del modello:
«Un modello decisionale restituisce un’etichetta (una decisione) e un punteggio di confidenza per quell’etichetta in un unico passaggio in avanti.»
Max Kirkby e Charles O’Neill, autori dell’annuncio di Baseten
Baseten punta su velocità e prezzo
Baseten riporta una latenza end-to-end P50 di 20 millisecondi per una richiesta media di 2.000 token. L’azienda la confronta con i 49 millisecondi del suo modello elephant-1 da 9B e afferma che joey-1 costa 0,01 dollari per milione di token. La scheda del modello su Hugging Face specifica che il prezzo dell’API è riferito a un milione di token in input. Secondo Baseten, joey-1 costa quindi un decimo di mammoth-1 da 27B.
L’azienda illustra la differenza di prezzo con un carico di lavoro ipotetico di 10 milioni di ticket di assistenza al mese, ciascuno dei quali utilizza circa 500 token. Baseten stima che questo volume costerebbe all’incirca 50 dollari al mese con joey-1, contro i 500 dollari con mammoth-1. Si tratta di calcoli dell’azienda; l’utilizzo effettivo dipende dalle richieste inviate.
Baseten descrive joey-1 come un modello di prima linea per mantenere i carichi di lavoro veloci ed efficienti in termini di costi, con elephant-1 o mammoth-1 disponibili come opzioni a cui ricorrere quando joey-1 è incerto. Questo rende il punteggio di confidenza rilevante sul piano operativo: può aiutare un’applicazione a decidere se utilizzare il risultato del modello più piccolo o inviare la richiesta a uno più grande.
Il benchmark mostra un punto di forza più circoscritto rispetto a quanto dichiarato al lancio
Baseten afferma che i suoi test interni hanno individuato in joey-1 il suo modello decisionale più efficace con 3B o meno parametri, precisando però che i dettagli di quei test sarebbero arrivati in seguito. Sulla partizione pubblica del Jev Decision Index 0.4, la scheda del modello su Hugging Face riporta un punteggio di 63,30, che colloca joey-1 al 37° posto su 230 modelli. Nella stessa tabella, elephant-1 da 9B ottiene 72,24; joey-1 supera anche i risultati riportati per Cloudflare Clef, Jev 1.14 e Perplexity Decider Flash v1.2.
La scheda afferma che joey-1 è dietro elephant-1 in ogni ambito di quella partizione e supera Jev 1.14 in quattro ambiti su cinque. I risultati distinguono il caso d’uso del modello più piccolo, a basso costo e sensibile alla latenza, da un’affermazione di primato sull’intera famiglia nelle prestazioni dei benchmark.
Disponibile tramite Baseten e con pesi aperti
Baseten offre joey-1 tramite Model APIs, con una finestra di contesto di 16.000 token, e pubblica i pesi del modello su Hugging Face. Il modello è stato sottoposto a post-training da Base Labs di Baseten a partire da Qwen3.5-2B, utilizzando gli stessi dati e la stessa procedura di elephant-1 e mammoth-1. Baseten offre anche deployment dedicati con una finestra di contesto di 262.000 token e afferma che joey-1 può essere sottoposto a fine-tuning tramite i suoi Training Jobs.
Per gli sviluppatori, joey-1 è pensato per una scelta definita, un giudizio sì o no o un punteggio, piuttosto che per una risposta aperta. La sua API ospitata ha un prezzo di 0,01 dollari per milione di token in input e i suoi pesi sono disponibili su Hugging Face.