Zum Inhalt springen
AI.info

The Pulse

Microsoft weitet den Zugang zu Nvidia-Vera-Rubin-Systemen auf Azure aus und ergänzt Foundry um Nemotron-3.5-Modelle

Nvidia und Microsoft weiten den Zugang zu KI-Infrastruktur und Modellen auf Azure, lokale Systeme und Windows-PCs aus. Die Unternehmen werden lokale Sprachmodelle auf RTX-Spark-PCs demonstrieren und eine begrenzte Vorschau für GPU-beschleunigtes Cloud-PC-Streaming starten.

Microsoft weitet den Zugang zu Nvidia-Vera-Rubin-Systemen auf Azure aus und ergänzt Foundry um Nemotron-3.5-Modelle

Nvidia und Microsoft weiten den Zugang zu virtuellen Azure-Maschinen mit Nvidia-Technologie und zu KI-Modellen aus. Zugleich bereiten sie Demonstrationen von Sprachmodellen vor, die lokal auf Windows-PCs laufen. Nvidia beschrieb die Neuerungen in einem Beitrag vom 19. November über die Arbeit der Unternehmen auf der Microsoft Ignite.

Quelle blogs.nvidia.com

Die Zusammenarbeit umfasst Cloud-Infrastruktur, On-Premises-Systeme und Industriegeräte. Auf Windows-PCs mit Nvidia RTX Spark werden die Unternehmen demonstrieren, wie Entwickler Anwendungen mit großen Sprachmodellen direkt auf dem Gerät ausführen können.

Windows- und Cloud-Zugang

Die Unternehmen bringen außerdem Direct-Stream-Funktionen auf GPU-beschleunigte Windows-365-Cloud-PCs, die sich für grafikintensive Anwendungen eignen. Die Funktionen unterstützen bis zu zwei 4K-Streams mit 60 Bildern pro Sekunde und geringer Latenz, selbst über schwierige Netzwerke hinweg, so Nvidia.

Anmeldungen für eine begrenzte Vorschau sind möglich; eine öffentliche Vorschau ist für Anfang 2027 geplant. Die Demonstrationen auf lokalen PCs sind von den Cloud-PC-Streaming-Funktionen getrennt.

Vera-Rubin-NVL72-Systeme laufen in Azure-Rechenzentren; der Zugang zu virtuellen Maschinen, die von diesen Systemen angetrieben werden, wird ausgeweitet. Die Infrastruktur ist für Workloads wie Reasoning-Anwendungen, Modelltraining und Inferenz ausgelegt.

Microsoft und Nvidia arbeiten daran, Confidential Computing auf Bare-Metal- und rackskalierte KI-Infrastruktur auszuweiten. Nvidia zufolge können Kunden mit der Confidential-Computing- und Attestierungstechnologie eine Umgebung überprüfen, bevor sie sensible Modelle, Daten oder Schlüssel freigeben. Die Unternehmen arbeiten daran, diesen Schutz auf miteinander verbundene Infrastrukturen auszuweiten. Außerdem arbeiten sie gemeinsam an der Energieeffizienz mithilfe von Nvidia MaxLPS.

Bei MLPerf Training v6.1 skalierte Azure mit GB200-NVL72-Systemen auf 10.240 Nvidia-GPUs für das Modell DeepSeek-V3. Nvidia zufolge war dies in dieser Runde der größte Umfang. Für MLPerf Inference v6.1 verwies Nvidia auf Angaben von Signal65, wonach Azures GB300-NVL72-Systeme bei den Cloud-Einreichungen für den interaktiven Durchsatz von DeepSeek-R1 um mehr als 10 % vorn lagen.

Modellanpassung

Microsoft Foundry erweitert das Angebot an Nvidia-Modellen und -Diensten für Entwickler. Das serverlose Angebot Programmed Training ermöglicht Entwicklern, Post-Training-Workflows zu steuern, während Foundry die zugrunde liegende Infrastruktur verwaltet. Foundry Managed Compute bietet nun auch Unterstützung für die Bereitstellung kundenspezifischer Modellgewichte.

Nvidia zufolge nutzte EY Programmed Training, um offene Nemotron-Modelle für die Klassifizierung von Einkaufsdatensätzen von Unternehmen anzupassen. Bei der Auswertung anhand des Evaluierungsdatensatzes von EY verbesserte sich die Genauigkeit um 55 %, während die Kosten im Vergleich zu proprietären Frontier-Modellen um das 15-Fache sanken, heißt es in dem Beitrag.

Das erweiterte Nemotron-3.5-Angebot auf Foundry Managed Compute umfasst Super, das für lang laufende Agenten ausgelegt ist, die in Workflows für Programmierung, Forschung und Unternehmen eingesetzt werden, sowie Lightning für Anwendungen, die schnelle Antworten und den Einsatz von Tools erfordern. Weitere Modelle decken Retrieval, Dokumenten-Parsing und Inhaltssicherheit ab. Bolt, ein Reasoning-Modell, und Transcribe für Spracherkennung sollen in Kürze folgen.

Lokale und wissenschaftliche Workloads

Die erweiterte Unterstützung für Nemotron 3.5 in Foundry Local bringt Reasoning-, Programmier- und Tool-Nutzungsfähigkeiten von Agenten in Azure-Local-Umgebungen. Retrieval-Modelle können Belege in Texten, Dokumentbildern, Diagrammen und Tabellen finden.

Azure Local wird für On-Premises-Bereitstellungen außerdem Nvidia RTX PRO 6000 Blackwell-GPUs von Hardwarepartnern unterstützen. Die Plattform wird für industrielle Anwendungen wie maschinelles Sehen und Robotik auf Nvidia Jetson Thor und Jetson Orin ausgeweitet. Zudem werden physische KI-Modelle von Nvidia, darunter Cosmos, in Foundry Local integriert.

Nvidias BioNeMo Agent Toolkit und ALCHEMI Toolkit werden in den Microsoft-Discovery-Katalog für Forschung in den Lebenswissenschaften, der Wirkstoffforschung, den Materialwissenschaften und der Chemie aufgenommen. Bei einer ersten Integration kommt RFD4-Proteina zum Einsatz, das gemeinsam mit dem Institute for Protein Design der University of Washington entwickelt wurde. Es erzeugt mögliche Proteinstrukturen und Aminosäuresequenzen zur weiteren Auswertung und Validierung im Labor.

Microsoft AI nutzt außerdem die Nvidia-Dynamo-Software für Rollout-Inferenz beim Reinforcement Learning während des Post-Trainings. Die Software koordiniert die Inferenz über eine GPU-Flotte hinweg und hilft bei der Verwaltung von Anfragen und Modellaktualisierungen sowie bei der Wiederherstellung nach Ausfällen.

Quellen

  1. Originalquelle · Blogbeitrag NVIDIA blogs.nvidia.com

Unternehmen in dieser Meldung

Verwandte Meldungen

Entdecken

Weitere Artikel