The Pulse
Fireworks porta Ember-1 su Vercel con il 40% di token in meno
Il modello Ember-1 di Fireworks, sviluppato su Kimi K3, ha utilizzato il 39% di token totali in meno in un test di coding condotto da un cliente, ottenendo un punteggio leggermente superiore, secondo l’azienda. Vercel ha aggiunto il modello

AI.info Team · Scritto con l’IA · verificato ·
In un test di coding in produzione condotto da un cliente, Ember-1 ha utilizzato il 39% di token totali in meno rispetto a Kimi K3, ottenendo un punteggio leggermente superiore, secondo Fireworks. Il nuovo modello è diventato disponibile tramite AI Gateway di Vercel il 27 settembre, offrendo agli sviluppatori un’altra opzione per gli agenti di coding che effettuano chiamate ripetute al modello.
Fireworks ha sviluppato Ember-1 su Kimi K3 e afferma che riduce il ragionamento superfluo senza sacrificare una qualità comparabile. L’azienda presenta il minor consumo di token come un modo per ridurre i costi nei flussi di lavoro degli agenti, nei quali il ragionamento precedente può essere nuovamente incluso nelle chiamate successive.
Un test di un cliente ha ridotto i token totali del 39%
Nel confronto condotto dal cliente e pubblicato da Fireworks, Kimi K3 ha ottenuto un punteggio di 0,751, ha impiegato in media 23,8 passaggi e ha generato 49.300 token di output per attività. Ember-1 ha ottenuto un punteggio di 0,753, ha impiegato 21,4 passaggi e ha generato 29.900 token di output. In quel test, i token di ragionamento si sono ridotti del 71,3% e i token totali del 39%, riferisce Fireworks.
Due clienti hanno testato Ember-1 su carichi di lavoro di coding in produzione, con circa il 35% di token in meno per attività a parità di qualità, secondo l’azienda. Uno dei due ha messo il modello in produzione e prevede di ampliarne l’uso, secondo Fireworks. Questi risultati provengono dai test dell’azienda e non dimostrano che ogni agente o attività di coding otterrà lo stesso risparmio.
La scommessa del prodotto è un ragionamento più breve
Fireworks ha condotto più di 50 esperimenti di addestramento e oltre 200 valutazioni per insegnare al modello a produrre tracce di ragionamento più brevi. La tesi dell’azienda è che le tracce lunghe comportino costi aggiuntivi nel lavoro degli agenti su più turni: ogni nuovo turno può reintrodurre nel prompt il contesto precedente, aumentando i token elaborati nel corso di un’attività.
«Il modo più conveniente per usare K3 non è più farlo ragionare meno, ma usare Ember-1, il modello che ha imparato a ragionare in modo efficiente.» Fireworks
Fireworks ha anche confrontato Ember-1 con Kimi K3 su diversi benchmark di coding. Su SWE-bench Verified, i risultati pubblicati mostrano il 92,2% per Ember-1 contro il 93,2% per K3 al massimo livello di ragionamento; su Terminal Bench 2.1, Ember-1 ha ottenuto l’82,0% contro l’80,9% di K3. La tabella dell’azienda riporta costi inferiori per Ember-1 nei benchmark, ma le cifre sono risultati delle valutazioni di Fireworks, non di una verifica indipendente.
Il gateway di Vercel aggiunge un’anteprima di due settimane
Il registro delle modifiche di Vercel del 27 settembre presenta Ember-1 come un’anteprima di ricerca con un periodo iniziale di disponibilità di due settimane. Il modello supporta una finestra di contesto da 1 milione di token, input di testo e immagini e chiamate a strumenti. Gli sviluppatori possono selezionare fireworks/ember-1 negli agenti di coding compatibili dopo aver configurato AI Gateway.
Fireworks indica tariffe serverless di 3 dollari per milione di token di input e 15 dollari per milione di token di output. Il potenziale risparmio si basa quindi sulla generazione di un numero inferiore di token, anziché su una tariffa pubblicata più bassa: che questo si traduca o meno in una fattura più leggera dipende dal carico di lavoro di un agente e dalla sua capacità di svolgere lo stesso lavoro con una qualità simile.
Fonti
Notizie correlate
- Lo studio non rileva vantaggi chiari nella programmazione con gli harness dei fornitori
- Secondo Vercel, Jev ha raggiunto il 35,3% dei team paganti in due settimane
- I modelli decisionali hanno ricevuto il 26% delle richieste di IA a ottobre, secondo Vercel
- GitLab corregge una vulnerabilità RCE con punteggio CVSS di 9,9 nell’AI Gateway ospitato in proprio
- OpenAI porta i flussi di lavoro controllati dalla voce su ChatGPT per dispositivi mobili