Vai al contenuto
AI.info

The Pulse

Kimi K3.1 Pro aggiunge altri provider ZDR su Vercel AI Gateway

Kimi K3.1 Pro e K3.1 Pro Highspeed sono ora disponibili su Vercel AI Gateway presso più provider con accordi Zero Data Retention. La pagina ne descrive le capacità, le modalità di chiamata e le impostazioni del Gateway che richiedono ZDR pe

Kimi K3.1 Pro aggiunge altri provider ZDR su Vercel AI Gateway

AI.info Team · Scritto con l’IA · verificato ·

Kimi K3.1 Pro e la sua versione più veloce, Kimi K3.1 Pro Highspeed, sono ora disponibili su Vercel AI Gateway presso più provider Zero Data Retention (ZDR). Prima di questa modifica, Moonshot AI era l’unico provider a offrire entrambi i modelli.

K3.1 Pro migliora rispetto ai precedenti modelli Kimi nella programmazione, nella modellazione 3D e nell’analisi finanziaria e può gestire lunghe sessioni di lavoro degli agenti, da una piccola correzione a un progetto completo. Sia K3.1 Pro sia Highspeed hanno una finestra di contesto da 1 milione di token e accettano immagini in input. Vercel descrive Highspeed come adatto al lavoro interattivo, per esempio con agenti di coding, dove il tempo di risposta è importante.

Come chiamare i modelli

Entrambi i modelli possono essere chiamati tramite AI SDK, le API Chat Completions, Responses e Anthropic Messages, oppure un agente di coding collegato ad AI Gateway. Il nome del modello per K3.1 Pro è moonshotai/kimi-k3.1-pro. Per Highspeed, usare moonshotai/kimi-k3.1-pro-highspeed al suo posto.

L’esempio di Vercel usa la funzione streamText di AI SDK e imposta nella richiesta il nome del modello e il prompt. Il prompt chiede una funzione Python che oscuri gli indirizzi email in una riga di log. L’esempio imposta anche zeroDataRetention: true nelle opzioni del provider gateway:

import { streamText } from 'ai';

const result = streamText({ model: 'moonshotai/kimi-k3.1-pro', prompt: 'Write a Python function that redacts email addresses from a log line.', providerOptions: { gateway: { zeroDataRetention: true, }, },
});

Per gli agenti di coding, l’annuncio elenca Claude Code, Codex e Cursor tra le opzioni supportate. Gli utenti possono installare la versione più recente di Vercel CLI ed eseguire vercel ai-gateway coding-agents setup, quindi selezionare moonshotai/kimi-k3.1-pro oppure moonshotai/kimi-k3.1-pro-highspeed nell’agente. Il comando di installazione della CLI mostrato è pnpm i -g vercel@latest. Vercel invita inoltre gli utenti a provare Kimi K3.1 Pro nel playground dei modelli e rimanda alla propria guida agli agenti di coding per i dettagli sulla configurazione.

Come funziona l’instradamento ZDR

Impostare zeroDataRetention: true nelle opzioni del provider AI Gateway richiede ZDR per quella richiesta. In alternativa, i team possono attivare ZDR nelle impostazioni della dashboard di AI Gateway per richiederlo per ogni richiesta che inviano, comprese quelle degli agenti di coding. Con una delle due impostazioni attiva, AI Gateway instrada le richieste solo verso provider che hanno un accordo ZDR. Se per un modello non è disponibile alcun provider di questo tipo, la richiesta fallisce invece di essere inviata a un provider senza accordo.

Vercel descrive AI Gateway come un’API unificata per chiamare i modelli e monitorare utilizzo e costi. Offre anche la configurazione di nuovi tentativi, failover e ottimizzazioni delle prestazioni, pensati per garantire una disponibilità superiore a quella dei provider, oltre a report personalizzati, supporto ZDR, budget per le chiavi API e regole di instradamento. Il servizio applica i prezzi dei provider senza maggiorazioni e non addebita costi di piattaforma sull’inferenza, anche per le richieste Bring Your Own Key.

Fonte

Notizie correlate

Esplora

Altri articoli