The Pulse
DMM und Algomatic Dynamics bringen Router für 60 oder mehr KI-Modelle an den Start
Der DMM AI Router verbindet Unternehmen über eine einzige API mit generativen KI-Modellen und kann bei Fehlern oder Verzögerungen zu anderen Modellen wechseln. Die Unternehmen planen, Unterstützung für Bilder und Videos, Budgetgrenzen und Zugriffskontrollen hinzuzufügen.

Der DMM AI Router ermöglicht Unternehmen über eine einzige API den Zugriff auf 60 oder mehr generative KI-Modelle, darunter GPT-, Gemini- und Kimi-Modelle. DMM.com und das Start-up Algomatic Dynamics aus der DMM-Gruppe haben das Gateway gemeinsam entwickelt, wie aus ihrer Mitteilung vom 19. November hervorgeht.
Der Dienst ermöglicht es Kunden, Modelle zu vergleichen und Regeln dafür festzulegen, welches Modell für welche Aufgabe eingesetzt wird. Außerdem kann er automatisch zu einem anderen Modell wechseln, wenn beim verwendeten Modell ein Fehler oder eine Verzögerung auftritt.
Eine Verbindung für mehrere Modelle
Das Gateway bündelt den Zugang zu Modellen, für die andernfalls separate Verträge mit Anbietern, die Entwicklung für unterschiedliche API-Spezifikationen und die Verwaltung von API-Schlüsseln erforderlich wären, erklärten die Unternehmen. Unternehmen können verschiedene Modelle über dieselbe Verbindung testen und die Qualität der Antworten, die Reaktionsgeschwindigkeit und die Kosten vergleichen.
Das Produkt ist laut seiner Serviceseite mit der Chat Completions API von OpenAI kompatibel. Nutzer geben den Router-Endpunkt und eine Modell-ID an, um Anfragen an unterstützte Modelle zu senden.
Es gibt keine Einrichtungs- oder Monatsgebühr, bezahlt wird jedoch mit vorausbezahltem Guthaben. Beim Aufladen des Guthabens fallen Gebühren an, die Verbrauchsteuer wird separat berechnet. Nutzer können auf ihrer Kontoseite die Anzahl der Anfragen, die Nutzungsgebühren und den Guthabenstand einsehen.
Wechsel je nach Aufgabe oder Fehler
Kunden können Regeln für den Einsatz verschiedener Modelle bei unterschiedlichen Aufgaben festlegen. Die Mitteilung nennt als Beispiel, für häufig gestellte Fragen ein kostengünstigeres Modell und für die Analyse wichtiger Dokumente ein leistungsfähigeres Modell zu verwenden.
Während eines Proof of Concept können Nutzer zum Vergleich manuell zwischen Modellen wechseln. Beim Übergang in den Produktivbetrieb können sie dieselbe Verbindung mit regelbasiertem Wechsel und automatischem Wechsel nutzen, falls bei einem Modell ein Fehler oder eine Verzögerung auftritt.
Geplante nächste Funktionen
DMM und Algomatic Dynamics planen, neben Text auch Modelle zu unterstützen, die Bilder und Videos verarbeiten. Zu den geplanten Funktionen gehören das Auslesen von Bildern, das Zusammenfassen von Videos und das Erzeugen von Bildern aus Text. Außerdem planen sie, die Zahl der verfügbaren Anbieter und Modelle zu erhöhen.
Eine geplante Schutzfunktion würde es Kunden ermöglichen, zulässige Modelle festzulegen und Budgetobergrenzen einzurichten. Anfragen, die diese Bedingungen nicht erfüllen, würden eingeschränkt.
Eine weitere geplante Funktion soll die Berechtigungen von Administratoren und Nutzern trennen. Dazu gehört, wer API-Schlüssel ausgeben und verwalten oder Nutzungsregeln ändern kann. Diese Kontrollen zählen zu den Ergänzungen, die die Unternehmen nach und nach einführen wollen.
Quellen
- Originalquelle · Pressemitteilung DMM.com via PR TIMES prtimes.jp
Weitere gelesene Seiten
- DMM AI Router airouter.dmm.com
Verwandte Meldungen
- AWS ergänzt SageMaker JumpStart um eine Modell-Rangliste
- AWS-Kunden können PolyAIs Sprachdialogmodell jetzt über SageMaker JumpStart bereitstellen
- Illumina zufolge gewinnt sein KI-Modell Arc’ Wettbewerb für virtuelle Zellen
- Aikido weitet KI-Penetrationstests auf iOS-Apps aus
- Unsloth Desktop ermöglicht lokale Inferenz auf AMD-XDNA-2-NPUs in Ryzen-AI-PCs