Vai al contenuto
AI.info

The Pulse

Moonshot rende disponibili i pesi aperti di Kimi K3.1 Pro

Kimi K3.1 Pro è un modello mixture-of-experts da 2.800 miliardi di parametri, con una finestra di contesto da 1 milione di token. Moonshot indica la disponibilità dell’accesso tramite API e attualmente raccomanda vLLM, SGLang e TokenSpeed p

Moonshot rende disponibili i pesi aperti di Kimi K3.1 Pro

AI.info Team · Scritto con l’IA · verificato ·

Il primo modello K3.1 di Moonshot

La scheda del modello descrive Kimi K3.1 Pro come un modello agentico a pesi aperti e nativamente multimodale, nonché il primo della serie K3.1 di Moonshot. L’azienda afferma che il modello è stato sottoposto a post-training a partire da Kimi K3, con apprendimento per rinforzo congiunto su larga scala in centinaia di ambiti applicativi. La scheda lo descrive come il modello più capace della classe 3T sviluppato finora dall’azienda e afferma che offre miglioramenti sostanziali nella programmazione, nella creazione 3D, nella ricerca finanziaria, nell’accuratezza fattuale e in altre capacità agentiche. Le modalità indicate sono testo e immagini.

All’interno del modello da 2.800 miliardi di parametri

Il modello usa un’architettura mixture-of-experts, con 2.800 miliardi di parametri totali e 104 miliardi di parametri attivati. I suoi 93 livelli comprendono un livello denso e ogni token seleziona 16 esperti da un insieme di 896, affiancati da due esperti condivisi. Il sistema di attenzione combina 69 livelli KDA con 24 livelli Gated DSA; Moonshot afferma che, rispetto a Kimi K3, ha sostituito i livelli Gated MLA ad attenzione completa con livelli Gated DSA, per una modellazione più efficiente dei contesti lunghi. La scheda del modello indica 96 teste di attenzione e una dimensione nascosta dell’attenzione pari a 7168.

Kimi K3.1 Pro ha una finestra di contesto da 1 milione di token. L’encoder visivo è MoonViT-V2, con 401 milioni di parametri. La scheda specifica pesi MXFP4 e attivazioni MXFP8, con addestramento consapevole della quantizzazione.

Risultati in programmazione, agenti e ragionamento

La tabella di valutazione di Moonshot riporta i risultati di Kimi K3.1 Pro con il massimo livello di ragionamento, temperatura 1,0 e top-p 0,95, salvo diversa indicazione. Nella programmazione registra 65,7 su Terminal-Bench 4.0, 38,1 su Terminal-Bench-Science 0.1, 51,7 su SWE Marathon v1.1 e 31,5 su Program Bench. La scheda precisa che Program Bench usa un punteggio binario: un compito riceve 1 quando il suo punteggio ProgramBench raggiunge almeno il 95%, e 0 negli altri casi.

Per i compiti agentici, la tabella attribuisce al modello 70,0 su HLE-Full con strumenti, 92,1 su BrowseComp e 43,2 su Agents’ Last Exam (ALL). Nei benchmark di ragionamento e conoscenza riporta 94,2 su GPQA-Diamond, 51,1 su HLE-Full e 39,4 su HLE-Diamond. La scheda afferma che gli insiemi completi di valutazione HLE contengono rispettivamente 2.500 e 1.000 domande.

I risultati nella cybersicurezza includono 74,7 su ExploitBench e 20,7 su ExploitGym. Il punteggio di ExploitBench usa l’ambiente di valutazione ufficiale con un limite di 300 turni e riporta il punteggio di capacità massima pass@5. Per ExploitGym, Kimi K3.1 Pro viene valutato con Kimi Code con un limite di tempo effettivo di sei ore per compito.

Accesso tramite API, motori di inferenza e licenza

Moonshot rende disponibile l’API del modello attraverso platform.kimi.ai, selezionando kimi-k3.1-pro, e afferma di fornire un’API compatibile con OpenAI/Anthropic. La scheda del modello raccomanda attualmente vLLM, SGLang e TokenSpeed come motori di inferenza.

Il livello di ragionamento viene impostato tramite il campo della richiesta reasoning_effort, che supporta low, high e max, con max come valore predefinito. Per le conversazioni su più turni e le chiamate agli strumenti, la scheda specifica che il messaggio completo dell’assistente restituito dall’API deve essere passato nuovamente a messages così com’è, inclusi reasoning_content e tool_calls, e non solo content. Kimi K3.1 Pro è distribuito con la Kimi K3.1 Pro License.

Fonte

Esplora

Altri articoli