Vai al contenuto
AI.info

The Pulse

Mistral Large 4: dettagli del modello, varianti e opzioni di distribuzione

La guida di Hugging Face e la scheda del modello di Mistral descrivono l’architettura, le capacità, le varianti e le modalità di esecuzione di Large 4. I documenti illustrano anche la licenza del modello e riportano i risultati di valutazio

Mistral Large 4: dettagli del modello, varianti e opzioni di distribuzione

AI.info Team · Scritto con l’IA · verificato ·

«Mistral Large 4 (noto anche come Le Chonk) è un modello multimodale, multilingue e Mixture-of-Experts (MoE) di Mistral.»

Scrivono Merve Noyan e gli altri autori di Hugging Face

La guida di Hugging Face, pubblicata il 29 ottobre 2026, descrive Mistral Large 4 come un modello che riceve testo e immagini in input e genera testo. La scheda del modello di Mistral indica circa 1 bilione di parametri complessivi, 49 miliardi attivi per token e 52 miliardi includendo gli embedding e i livelli di output. Entrambi i documenti descrivono una finestra di contesto fino a 1 milione di token.

Architettura e capacità

La scheda del modello di Mistral descrive un’architettura mixture-of-experts con 128 esperti instradati, quattro attivi per ogni token, e un esperto condiviso. Secondo la scheda, il modello è stato addestrato da zero su 3.800 GPU NVIDIA Grace Blackwell nei data center europei di Mistral. La scheda presenta Large 4 come un unico insieme di pesi per seguire istruzioni, ragionamento, programmazione e flussi di lavoro agentici, e afferma che padroneggia nativamente più di 160 lingue.

La guida di Hugging Face fornisce ulteriori dettagli architetturali: il decoder testuale ha 72 livelli, 64 teste di attenzione e una dimensione nascosta di 6.144. Il suo meccanismo di attenzione combina Multi-head Latent Attention con un indicizzatore DeepSeek Sparse Attention, che seleziona fino a 2.048 posizioni chiave per ogni query. La guida descrive anche un encoder visivo Pixtral da 1,6 miliardi di parametri. La scheda del modello di Mistral afferma che l’encoder in stile Pixtral è addestrato a gestire immagini di dimensioni e rapporti d’aspetto variabili.

Varianti e inferenza

La guida elenca due varianti ufficiali, FP8 e NVFP4, e osserva che sono disponibili anche versioni GGUF di Unsloth e del team di llama.cpp. Descrive il checkpoint NVFP4 come una versione che richiede meno memoria ed è destinata alle GPU NVIDIA Blackwell. La scheda del modello di Mistral afferma che un checkpoint NVFP4 quantizzato supporta vLLM e SGLang.

La guida di Hugging Face documenta il supporto per Transformers, vLLM e llama.cpp, oltre alla distribuzione remota tramite Hugging Face Inference Endpoints e all’inferenza serverless tramite Inference Providers. L’esempio con Transformers utilizza otto processi. Le istruzioni per vLLM mettono in servizio il checkpoint NVFP4 e impostano a otto il parallelismo dei tensori e del contesto di decodifica. La scheda del modello include separatamente esempi per mettere in servizio il checkpoint con vLLM e SGLang, oltre che per usare Transformers.

La guida afferma che il livello di sforzo di ragionamento può essere impostato su basso, medio o alto, con alto come valore predefinito. Aggiunge che il ragionamento non può essere disattivato tramite l’impostazione documentata: impostando lo sforzo su nessuno, viene comunque usato il livello alto. Anche la scheda del modello descrive lo sforzo di ragionamento come configurabile per ogni richiesta ed elenca le stesse tre impostazioni.

Licenza e valutazioni pubblicate

La scheda del modello di Mistral afferma che i pesi sono rilasciati sotto la Mistral Ecosystem Open-Weight License, una versione modificata della licenza MIT. Sono consentiti sia l’uso commerciale sia quello non commerciale, ma gestire un’attività Model-as-a-Service richiede una licenza commerciale separata di Mistral.

La guida di Hugging Face riporta i risultati di valutazioni sulla programmazione e sulla sicurezza informatica. Attribuisce a Large 4 un punteggio dell’82% nel test di riproduzione e correzione delle vulnerabilità Artificial Analysis Cyber Index e riporta il 93% su Cybench, una suite di 40 sfide di sicurezza. Per la programmazione, la guida elenca punteggi del 61,7% su DeepSWE v1.1 e del 28,3% su Terminal-Bench 4. Si tratta di risultati ottenuti in valutazioni specifiche, non di una garanzia generale sulle prestazioni.

Nel complesso, la guida e la scheda descrivono un modello che accetta testo e immagini in input, con varianti ufficiali FP8 e NVFP4 e diverse opzioni di inferenza documentate. Il checkpoint NVFP4 è descritto specificamente come destinato alle GPU Blackwell; la licenza stabilisce inoltre un requisito separato per le aziende che gestiscono un’offerta Model-as-a-Service ospitata.

Fonti

Esplora

Altri articoli