The Pulse

CoreWeave mette 504 GPU Vera Rubin in un cluster da sette rack

CoreWeave ha messo in produzione sette rack NVIDIA Vera Rubin NVL72 distribuiti in due regioni, creando un’installazione da 504 GPU. L’azienda afferma che i suoi sistemi software, di rete, raffreddamento e archiviazione sono progettati per

AI.info Team · Scritto con l’IA · verificato · 2026-09-17

CoreWeave ha messo in produzione sette rack NVIDIA Vera Rubin NVL72 distribuiti in due regioni, per un totale di 504 GPU Rubin, mentre il fornitore cloud supera i sistemi a rack singolo. Il dato, riportato da TechTarget, colloca CoreWeave tra i primi operatori a offrire la più recente piattaforma su scala rack di NVIDIA come un sistema cloud più ampio, composto da più rack.

CoreWeave ha annunciato l’installazione il 16 settembre 2026, affermando che i clienti possono eseguire addestramento e inferenza su centinaia di GPU Rubin attraverso un unico cluster scale-out. L’azienda punta ai carichi di lavoro di IA agentica, nei quali le chiamate ripetute ai modelli, l’uso di strumenti e i calcoli intermedi possono amplificare i ritardi nella rete, nell’archiviazione e nella gestione dei checkpoint.

Sette rack, 504 GPU e un unico dominio operativo

Ogni rack Vera Rubin NVL72 combina 72 GPU NVIDIA Rubin con 36 CPU Vera, NVIDIA NVLink 6, SuperNIC ConnectX-9 e DPU BlueField-4. CoreWeave collega i rack tramite la rete Ethernet NVIDIA Spectrum-X, estendendo il sistema ad alta larghezza di banda interno a ciascun rack in una struttura di rete più ampia, capace di trasportare il traffico tra i rack.

«CoreWeave è stato il primo fornitore cloud di IA a validare e mettere in funzione un Vera Rubin NVL72, dimostrando che questa avanzata architettura su scala rack poteva operare come un servizio cloud affidabile e ad alte prestazioni», ha dichiarato Chen Goldberg, vicepresidente esecutivo responsabile di prodotto e ingegneria di CoreWeave. «Con Vera Rubin multi-rack, colleghiamo centinaia di GPU Rubin in un unico cluster scale-out».

L’installazione è destinata a supportare l’addestramento di modelli più grandi, l’inferenza più impegnativa e i carichi di lavoro di apprendimento per rinforzo. L’obiettivo dichiarato è nascondere ai processi dei clienti il confine fisico tra i rack, affinché il carico di lavoro veda un unico pool validato di risorse di calcolo anziché un insieme di macchine gestite separatamente.

La rete diventa parte del computer

Il resoconto tecnico di CoreWeave sull’installazione descrive una struttura di rete a due livelli, non bloccante, con più rail e piani. Ogni GPU Rubin utilizza due SuperNIC ConnectX-9, che forniscono fino a 1,6 terabit al secondo di connettività di backend per GPU.

Questa larghezza di banda è destinata ai carichi di lavoro sincronizzati in cui le GPU si scambiano dati continuamente. La struttura può supportare circa 128.000 GPU per rail: si tratta di una capacità architetturale, non delle dimensioni dell’attuale installazione Rubin dell’azienda. Il fornitore testa anche il traffico sulla rete di backend invece di affidarsi soltanto ai collegamenti interni più veloci tra GPU, usando il processo per individuare guasti negli switch, nei cablaggi, nel software e in altri componenti di rete.

Nel suo resoconto tecnico della messa in funzione, CoreWeave esegue carichi di lavoro sincronizzati sulle GPU, test simili all’addestramento, stress test computazionali e benchmark personalizzati prima che un rack entri in produzione. Il processo di validazione verifica i sistemi completi, senza fermarsi alla diagnostica dei singoli componenti.

Racky e Valvey estendono il controllo oltre i server

CoreWeave ha ampliato la sua piattaforma Mission Control con Racky, un livello di controllo per la gestione dei rack, e Valvey, un sistema programmabile di controllo del raffreddamento a liquido. Il Rack LifeCycle Controller coordina il rilevamento dell’hardware, gli aggiornamenti del firmware, i metadati, la validazione, l’alimentazione e il raffreddamento nel passaggio delle nuove infrastrutture dall’installazione alla produzione.

L’approccio riflette le esigenze fisiche della piattaforma Vera Rubin. Un singolo rack NVL72 comprende una rete ad alta velocità, un’alimentazione elettrica significativa e un sistema di raffreddamento a liquido progettato per funzionare a 45 gradi Celsius. Su scala multi-rack, una GPU lenta, un collegamento di rete instabile, un’anomalia nel raffreddamento o una configurazione non corrispondente possono influire sulle prestazioni del carico di lavoro più ampio, afferma CoreWeave.

Anziché trattare il raffreddamento come un compito separato di gestione degli impianti, CoreWeave inserisce il flusso del liquido refrigerante e il monitoraggio ambientale nello stesso processo operativo delle risorse di calcolo e della rete. Questo permette agli operatori di confrontare lo stato dei sistemi tra i rack mentre i carichi di lavoro sono sottoposti a un carico sostenuto.

Le modifiche all’archiviazione puntano ai ritardi tra le fasi del modello

L’annuncio di Vera Rubin comprende anche due aggiunte a CoreWeave AI Object Storage: l’accelerazione della scrittura tra regioni e un livello Archive a costo inferiore. L’accelerazione della scrittura tra regioni consente a un processo di scrivere i checkpoint localmente mentre la piattaforma replica i dati in una seconda regione in background.

La funzionalità permette a un cluster Kubernetes di continuare l’addestramento senza attendere il completamento di una scrittura remota. Le applicazioni possono usare un unico bucket tra le regioni senza modificare il codice, mentre le autorizzazioni e le regole di conservazione rimangono coerenti.

Il Local Object Transport Accelerator dell’azienda, o LOTA, fornisce una cache gestita sui nodi di CoreWeave Kubernetes Service. Secondo CoreWeave, LOTA può offrire letture alla velocità NVMe locale, ridurre la latenza di otto volte rispetto alle letture dirette da un cluster di archiviazione tradizionale e fornire una velocità di trasferimento fino a 7 GB al secondo per GPU, in condizioni adeguate di carico di lavoro e cache.

«I nostri dataset si estendono su più regioni e non possiamo permettere che il nostro programma di addestramento sia dettato dai ritardi nel recupero dei dati tra regioni», ha dichiarato Cécile Robert-Michon, direttrice dell’infrastruttura interna di Cohere. «CoreWeave AI Object Storage ci offre una presenza unificata dei dataset tra le regioni, con le letture memorizzate nella cache locale, così nulla deve attendere la rete».

La prova operativa è mantenere 504 GPU in funzione insieme

L’annuncio di CoreWeave presenta l’installazione come una questione infrastrutturale tanto quanto un’implementazione hardware. Il fornitore deve mantenere risorse di calcolo, rete, archiviazione, alimentazione, raffreddamento, firmware e software entro gli stessi parametri di prestazione, mentre i processi si estendono su più rack e regioni.

La distinzione è importante perché il dato di 504 GPU descrive la capacità in produzione, non semplicemente il numero di acceleratori installati. La misura pratica è se un processo distribuito di addestramento o inferenza possa continuare quando una GPU rallenta, un percorso di rete si degrada o un rack richiede un intervento. Il sistema Rubin multi-rack di CoreWeave è ora costruito attorno a questa prova: sette armadi NVL72 che operano come un unico pool gestito su due regioni.