Vai al contenuto
AI.info

The Pulse

Ollama porta Inkling 2 Mini sui Mac in locale, in anteprima

Inkling 2 Mini di Thinking Machines può essere eseguito in locale tramite un’anteprima di Ollama 0.40.17. Il modello a pesi aperti accetta testo e immagini; Ollama indica un download da 20 GB e una finestra di contesto da 1 milione di token.

Ollama porta Inkling 2 Mini sui Mac in locale, in anteprima

Inkling 2 Mini di Thinking Machines può ora essere eseguito in locale tramite Ollama, con supporto disponibile nella versione preliminare 0.40.17, ha dichiarato Ollama in un post del 20 novembre. Il modello a pesi aperti è disponibile in anteprima su Mac.

Secondo Ollama, può essere eseguito su un Mac con almeno 32 GB di memoria. Il modello è pensato per attività di programmazione, flussi di lavoro che prevedono l’uso del computer, design e finanza.

Eseguire il modello

Gli utenti possono avviare il modello con il comando ollama run inkling-2-mini. La libreria di Ollama elenca un modello da 20 GB, con una finestra di contesto da 1 milione di token e input di testo e immagini.

La libreria fornisce anche esempi per usare il modello tramite la sua API chat, Python e JavaScript. Riporta i comandi di avvio per applicazioni come Claude Code, OpenCode, Hermes Agent e OpenClaw; il post dell’azienda mostra anche un comando per Pi.

Dentro Inkling 2 Mini

Secondo la scheda del modello di Thinking Machines, il modello accetta testo e immagini e genera testo. Il 20 novembre lo sviluppatore ha rilasciato i pesi con licenza Apache 2.0 per usi che includono la ricerca, il fine-tuning e l’integrazione in altri prodotti.

La scheda del modello indica 26,4 miliardi di parametri, di cui 3,4 miliardi attivi. I 12 layer centrali vengono eseguiti tre volte con pesi condivisi; tenendo conto di questi passaggi aggiuntivi, Thinking Machines indica 5,4 miliardi di parametri attivi effettivi per token.

Il modello utilizza un’architettura mixture-of-experts, che instrada ogni token verso otto dei 128 esperti in ciascun layer. La sua architettura completa ha 24 layer; la ripetizione dei layer centrali porta a 48 applicazioni di layer per token.

Punteggi dei test riportati

Ollama riporta punteggi del 79,2% su SWE-Bench Verified e del 48,2% su DeepSWE, oltre all’82,7% su MCP Atlas per l’uso di strumenti da parte degli agenti e all’85,3% su DeepSearchQA per la ricerca approfondita. Riporta inoltre il 76,5% su ScreenSpot Pro, che verifica la capacità di individuare elementi su uno schermo, e il 92,8% su OmniDocBench, per la lettura di documenti.

Fonti

  1. Fonte originale · Post su un social Ollama · pagina 1 x.com

Altre pagine lette

  1. Ollama · pagina 2 ollama.com
  2. Thinking Machines Lab huggingface.co

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli