Zum Inhalt springen
AI.info

The Pulse

Ollama bringt Inkling 2 Mini in der Vorschau auf Macs für den lokalen Einsatz

Thinking Machines’ Inkling 2 Mini lässt sich über eine Vorschauversion von Ollama 0.40.17 lokal ausführen. Das Open-Weights-Modell verarbeitet Text und Bilder. Ollama gibt für den Download eine Größe von 20 GB und ein Kontextfenster von 1M Token an.

Ollama bringt Inkling 2 Mini in der Vorschau auf Macs für den lokalen Einsatz

Thinking Machines’ Inkling 2 Mini lässt sich jetzt lokal über Ollama ausführen. Die Unterstützung ist in der Vorabversion 0.40.17 verfügbar, wie Ollama am 20. November in einem Beitrag mitteilte. Das Open-Weights-Modell ist in der Vorschau auf dem Mac verfügbar.

Laut Ollama lässt es sich auf einem Mac mit 32 GB oder mehr Arbeitsspeicher ausführen. Das Modell ist für Programmierung, Workflows zur Computerbedienung sowie Aufgaben in den Bereichen Design und Finanzen vorgesehen.

Das Modell ausführen

Nutzer können das Modell mit dem Befehl ollama run inkling-2-mini starten. Ollamas Bibliothek führt ein 20-GB-Modell mit einem Kontextfenster von 1M Token sowie Text- und Bildeingaben auf.

Die Bibliothek bietet außerdem Beispiele dafür, wie sich das Modell über die Chat-API sowie mit Python und JavaScript nutzen lässt. Sie führt Startbefehle für Anwendungen wie Claude Code, OpenCode, Hermes Agent und OpenClaw auf; der Beitrag des Unternehmens zeigt außerdem einen Befehl für Pi.

Ein Blick auf Inkling 2 Mini

Laut der Modellkarte von Thinking Machines verarbeitet das Modell Text und Bilder und erzeugt Text. Der Entwickler veröffentlichte seine Gewichte am 20. November unter der Apache-2.0-Lizenz für Zwecke wie Forschung, Fine-Tuning und die Integration in andere Produkte.

Laut Modellkarte hat das Modell 26,4 Milliarden Parameter, von denen 3,4 Milliarden aktiv sind. Seine mittleren 12 Schichten werden mit gemeinsamen Gewichten dreimal ausgeführt; einschließlich dieser zusätzlichen Durchläufe gibt Thinking Machines pro Token 5,4 Milliarden effektiv aktive Parameter an.

Das Modell verwendet eine Mixture-of-Experts-Architektur, die jedes Token in jeder Schicht an acht von 128 Experten weiterleitet. Die vollständige Architektur hat 24 Schichten; durch die wiederholten mittleren Schichten ergeben sich 48 Schichtdurchläufe pro Token.

Gemeldete Testergebnisse

Ollama gibt Ergebnisse von 79,2 % bei SWE-Bench Verified und 48,2 % bei DeepSWE an, daneben 82,7 % bei MCP Atlas für den Einsatz von Agenten-Tools und 85,3 % bei DeepSearchQA für gründliche Recherche. Außerdem werden 76,5 % bei ScreenSpot Pro angegeben, das das Auffinden von Dingen auf einem Bildschirm prüft, sowie 92,8 % bei OmniDocBench, das dem Lesen von Dokumenten dient.

Quellen

  1. Originalquelle · Beitrag in sozialen Medien Ollama · Seite 1 x.com

Weitere gelesene Seiten

  1. Ollama · Seite 2 ollama.com
  2. Thinking Machines Lab huggingface.co

Unternehmen in dieser Meldung

Verwandte Meldungen

Entdecken

Weitere Artikel