Vai al contenuto
AI.info

The Pulse

AI Gateway di Vercel aggiunge DeepSeek V4.1 Flash 1017 Ultrafast, con oltre 1.000 token al secondo

DeepSeek V4.1 Flash 1017 Ultrafast è ora disponibile su AI Gateway tramite Fireworks e può generare oltre 1.000 token al secondo. Il modello ha una finestra di contesto da 1 milione di token ed è disponibile in anteprima pubblica.

AI Gateway di Vercel aggiunge DeepSeek V4.1 Flash 1017 Ultrafast, con oltre 1.000 token al secondo

AI.info Team · Scritto con l’IA · verificato ·

Ultrafast rende disponibile l’aggiornamento del 17 ottobre di DeepSeek V4.1 Flash tramite l’endpoint serverless accelerato di Fireworks

DeepSeek V4.1 Flash 1017 Ultrafast è ora disponibile su AI Gateway. Il modello è adatto alla programmazione interattiva, al ragionamento e ai flussi di lavoro agentici in cui le applicazioni devono generare output e passare rapidamente alla fase successiva.

Il modello è disponibile in anteprima pubblica senza sala d’attesa né limiti di durata delle sessioni

Il modello può generare oltre 1.000 token al secondo. La sua finestra di contesto da 1 milione di token consente di lavorare con grandi basi di codice e input lunghi.

AI SDK e gli agenti di programmazione possono usare il modello

Gli utenti impostano deepseek/deepseek-v4.1-flash-1017-ultrafast come nome del modello. Un esempio di AI SDK richiama streamText con un prompt per una funzione di supporto in TypeScript che riprova una richiesta non riuscita con backoff. Per Claude Code, Codex, Cursor e altri, gli utenti installano la versione più recente di Vercel CLI ed eseguono npx vercel ai-gateway setup. Dopo la configurazione, selezionano il modello nell’agente.

AI Gateway offre un’API unificata e controlli integrati

AI Gateway offre un’API unificata per richiamare i modelli, monitorare utilizzo e costi e configurare nuovi tentativi, failover e ottimizzazioni delle prestazioni per una disponibilità superiore a quella dei provider. Il servizio include report personalizzati integrati, supporto per Zero Data Retention, budget per le chiavi API, regole di instradamento e altro ancora. AI Gateway applica i prezzi dei provider senza maggiorazioni e non addebita una tariffa di piattaforma sull’inferenza, anche per le richieste Bring Your Own Key (BYOK).

Fonte

Notizie correlate

Esplora

Altri articoli