Vai al contenuto
AI.info

The Pulse

CoreWeave comunica i risultati di addestramento dell’IA su più rack con Vera Rubin

CoreWeave afferma che il suo sistema Vera Rubin su più rack ha raggiunto un obiettivo di addestramento di DeepSeek-V3 in 17,65 minuti. Il confronto con un sistema GB200 con lo stesso numero di GPU non è stato verificato da MLCommons.

CoreWeave comunica i risultati di addestramento dell’IA su più rack con Vera Rubin

CoreWeave afferma di aver addestrato DeepSeek-V3 671B fino a raggiungere un obiettivo di qualità del benchmark in 17,65 minuti, utilizzando 256 GPU Nvidia Rubin distribuite su quattro rack. L’azienda ha comunicato il risultato il 16 novembre nell’ambito della tornata del benchmark MLPerf Training v6.1.

La prova con Vera Rubin è stata 2,7 volte più veloce della submission di CoreWeave con GB200 NVL72, che con lo stesso numero di GPU ha richiesto 48,40 minuti. CoreWeave ha ricavato il confronto dai risultati pubblicati da MLCommons; il confronto non è stato verificato dalla MLCommons Association.

Misurare il tempo necessario per raggiungere la qualità

MLPerf Training misura quanto tempo impiega un sistema per addestrare un modello specifico fino a un obiettivo di qualità definito. CoreWeave ha presentato risultati con Vera Rubin NVL72 e GB200 NVL72 nella categoria Available della divisione Closed, che confronta sistemi basati sullo stesso modello di riferimento e su hardware che i clienti possono acquistare o noleggiare.

L’azienda afferma di essere stato l’unico provider cloud a presentare in questa tornata risultati con Vera Rubin su più rack. Questa affermazione si basa sulla sua analisi dei risultati pubblicati nella divisione Closed per lo stesso numero di acceleratori e non è stata verificata da MLCommons.

Le submission dell’azienda hanno riguardato modelli da 8 miliardi a 671 miliardi di parametri e sistemi che vanno da un singolo rack con 72 GPU a 256 GPU distribuite su quattro rack. I risultati con Vera Rubin riguardavano il pre-addestramento di DeepSeek-V3 e Llama 3.1; l’azienda ha presentato anche risultati con GB200 per questi carichi di lavoro, per il pre-addestramento di GPT-OSS 20B e per l’apprendimento per rinforzo di Qwen3.5 397B.

Risultati con un singolo rack e con GB200

Nel test più piccolo con Llama 3.1 8B, CoreWeave afferma che un singolo rack Vera Rubin NVL72 ha raggiunto l’obiettivo di qualità in 7,16 minuti. L’azienda lo ha descritto come il risultato più veloce tra le submission con 72 GPU della tornata e 1,9 volte più veloce del suo risultato con GB200, pari a 13,70 minuti con lo stesso numero di GPU.

Per quel test, entrambe le piattaforme hanno utilizzato GEMM NVFP4, attention FP8 e grafi CUDA completi di Nvidia. I calcoli dell’accelerazione dell’azienda confrontano le sue submission, non i risultati di provider diversi.

Per l’apprendimento per rinforzo di Qwen3.5 397B, CoreWeave ha comunicato un risultato di 22,78 minuti su 256 GPU GB200 distribuite su quattro rack. La prova ha utilizzato 128 GPU per l’addestramento e 128 per la generazione, con Nvidia NeMo e TensorRT-LLM.

L’azienda ha inoltre comunicato di aver addestrato GPT-OSS 20B in 17,18 minuti su un singolo rack GB200 con 72 GPU. Il carico di lavoro Qwen è un test di post-addestramento, mentre il risultato di GPT-OSS è un test di pre-addestramento.

Collegare i rack

DeepSeek-V3 è un modello mixture-of-experts che instrada i token tra gli esperti a ogni livello mixture-of-experts. In una prova su quattro rack, parte di questo traffico attraversa la rete Ethernet Spectrum-X tra i rack, anziché rimanere all’interno del dominio Nvidia NVLink.

Per le prove su più rack, CoreWeave ha collegato i rack utilizzando un’infrastruttura Ethernet Nvidia Spectrum-X basata su RoCE, il networking Spectrum-6 a 102,4 Tb/s e le SuperNIC ConnectX-9. L’azienda afferma di aver eseguito i benchmark Vera Rubin sulla stessa infrastruttura di produzione messa a disposizione dei clienti.

CoreWeave Mission Control coordina il posizionamento dei carichi di lavoro e le operazioni del cluster, mentre gli strumenti chiamati Racky e Valvey gestiscono i rack e il raffreddamento. Il suo sistema di orchestrazione tiene conto della località di GPU e rete, mentre il monitoraggio della flotta e l’automazione del ciclo di vita individuano i componenti lenti o malfunzionanti.

Fonti

  1. CoreWeave
  2. CoreWeave

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli