Vai al contenuto
AI.info

The Pulse

NVIDIA annuncia la prima validazione di DSX per la gestione dell’energia

Secondo NVIDIA, la prima validazione sul campo di DSX MaxLPS condotta da Lambda ha prodotto il 24% di token in più a parità di potenza disponibile. Il test ha utilizzato un cluster HGX B200 di 19 nodi e ha migliorato del 23% le prestazioni

NVIDIA annuncia la prima validazione di DSX per la gestione dell’energia

AI.info Team ·

Secondo NVIDIA, il fornitore di servizi cloud Lambda ha completato la prima validazione sul campo del suo software di gestione dell’energia DSX MaxLPS, registrando un throughput di token superiore del 24% senza aumentare la potenza disponibile nell’impianto. Il test si è svolto su cinque rack e 19 server GPU NVIDIA HGX B200, confrontando 19 nodi soggetti a limiti di potenza gestiti con 16 nodi funzionanti a piena potenza.

I risultati di Lambda sono stati pubblicati il 15 settembre 2026, mentre NVIDIA indicava nell’efficienza energetica un parametro decisivo per i grandi impianti di IA. Secondo l’azienda, il cluster ha aumentato il throughput da circa 4 milioni a 5 milioni di token al secondo e ha migliorato del 23% le prestazioni per watt.

«Con la nostra prova di fattibilità, riteniamo di aver superato il vincolo dei limiti fissi di potenza», ha dichiarato Dave Ward, presidente dei servizi cloud di Lambda, nel resoconto di NVIDIA. «NVIDIA DSX MaxLPS apre la strada al recupero della capacità inutilizzata e alla sua conversione in risorse effettivamente utilizzabili, con una densità di calcolo significativamente maggiore nello stesso spazio».

Il test di Lambda su 19 nodi quantifica la potenza inutilizzata

DSX MaxLPS monitora il consumo energetico a livello di GPU e di rack, quindi ridistribuisce tra i nodi la potenza ancora disponibile in base al tipo di carico di lavoro. Secondo NVIDIA, questo approccio è pensato per gli impianti che eseguono sia l’addestramento sia l’inferenza, nei quali la domanda può seguire andamenti diversi e l’assegnazione statica della potenza può lasciare capacità inutilizzata.

Lambda ha fatto funzionare 19 nodi con la stessa potenza disponibile utilizzata da 16 nodi a piena potenza. NVIDIA riferisce che questa configurazione ha aumentato del 24% il throughput di token dell’intero cluster, da circa 4 milioni a 5 milioni di token al secondo, migliorando al tempo stesso del 23% le prestazioni per watt.

Il risultato è una misurazione sul campo relativa a un singolo cluster di cinque rack, non un’affermazione secondo cui ogni impianto di IA otterrà lo stesso incremento. NVIDIA presenta il test come la prima validazione di DSX MaxLPS su server GPU HGX B200 e, separatamente, prevede che il software possa supportare fino al 40% di capacità GPU in più negli impianti Vera Rubin NVL72 idonei che operano con la stessa potenza disponibile, espressa in megawatt.

DSX MaxLPS fa parte di un progetto più ampio per le fabbriche di IA

NVIDIA descrive DSX MaxLPS come una componente della più ampia piattaforma DSX per progettare, simulare e gestire fabbriche di IA. La piattaforma comprende DSX Sim per modellare l’infrastruttura prima della sua realizzazione, DSX OS per gestire i carichi di lavoro e i sistemi dell’impianto, DSX Exchange per coordinare i sistemi informatici e le tecnologie operative e DSX Flex per rispondere ai segnali delle aziende elettriche e della rete.

Questa struttura è importante perché l’allocazione della potenza è solo una delle cause dello spreco di capacità. I ritardi di rete, l’energia necessaria per il raffreddamento, gli intervalli lasciati vuoti dalla pianificazione dei carichi e l’assegnazione prudente della potenza ai rack possono tutti ridurre la quantità di calcolo utile ottenuta da una fornitura elettrica fissa. La documentazione di NVIDIA su DSX descrive MaxLPS come un insieme di tecnologie relative ai chip, alla gestione termica, ai sistemi e al software, pensate per migliorare le prestazioni per watt entro un limite fisso di potenza.

Il fondatore e amministratore delegato di NVIDIA Jensen Huang ha espresso il vincolo in termini semplici: «Una fabbrica da un gigawatt non diventerà mai una fabbrica da due gigawatt». La risposta dell’azienda è aumentare la quantità di lavoro utile prodotta con la potenza già disponibile, anziché considerare l’aumento della capacità della rete elettrica l’unica via per crescere.

Dall’allocazione nei rack alla risposta alla rete elettrica

L’annuncio di NVIDIA cita anche un’implementazione distinta della piattaforma Conductor di Emerald AI in una fabbrica di IA collegata al Flexible Load Interconnect Program di Silicon Valley Power. Quando l’azienda elettrica invia un segnale relativo alla domanda, Conductor riduce i consumi rallentando o riprogrammando i carichi di lavoro a priorità inferiore, mantenendo attivi i servizi a priorità più alta.

Secondo NVIDIA, l’impianto ha ridotto automaticamente la potenza assorbita da quattro a tre megawatt in meno di un minuto, senza l’intervento di un operatore né l’interruzione delle attività critiche di inferenza. Da allora Silicon Valley Power ha inviato al sito più di 200 segnali relativi alla domanda e, secondo NVIDIA, il sistema ha risposto correttamente ogni volta.

L’installazione di Santa Clara non è un’implementazione di DSX Flex. NVIDIA la descrive come una prima dimostrazione commerciale del modello operativo che DSX Flex è destinato a supportare; si prevede che Emerald AI Conductor venga integrato nella piattaforma man mano che questa maturerà.

Manassas ospiterà la prima implementazione dedicata di DSX Flex

Secondo NVIDIA, la prima implementazione commerciale dedicata di DSX Flex sarà presso il suo AI Factory Research Center a Manassas, in Virginia. L’impianto previsto è descritto come una fabbrica di IA Vera Rubin da 96 megawatt e si baserà su cinque precedenti dimostrazioni condotte in due continenti.

DSX Flex è progettato per ricevere segnali come richieste di riduzione del carico, eventi di risposta alla domanda e variazioni dei prezzi, e adeguare di conseguenza le priorità dei carichi di lavoro. L’obiettivo è rendere un impianto di IA abbastanza flessibile da ridurre la domanda quando la rete è sotto pressione, preservando al contempo i servizi che gli operatori hanno indicato come quelli con la priorità più alta.

Questa capacità dà ai risultati della gestione dell’energia due applicazioni distinte. MaxLPS ridistribuisce la capacità all’interno dell’impianto per produrre più token con una potenza disponibile fissa, mentre DSX Flex collega le decisioni sui carichi di lavoro alle condizioni della rete elettrica esterna. Entrambi trattano il limite elettrico del data center come un parametro operativo, anziché come un ostacolo immutabile.

NVIDIA prepara anche un sistema di alimentazione a 800 volt

Secondo l’azienda, i progetti di riferimento DSX stanno integrando un’architettura a corrente continua da 800 volt per rack di calcolo accelerato a maggiore densità. NVIDIA sostiene che la tensione più elevata possa ridurre la complessità della conversione e migliorare l’efficienza della distribuzione dell’energia con l’aumentare della domanda dei rack.

NVIDIA prevede un miglioramento dell’efficienza complessiva dal 3% al 5% rispetto alla distribuzione a 54 volt e afferma che l’architettura sarà disponibile con i sistemi Vera Rubin NVL72 nel 2027. Questa previsione è distinta dal risultato misurato da Lambda con DSX MaxLPS.

La validazione di Lambda stabilisce quindi un risultato concreto per una configurazione attuale: 19 nodi HGX B200 hanno prodotto un throughput di token superiore del 24% rispetto a una configurazione di riferimento di 16 nodi a piena potenza, con la stessa potenza disponibile nell’impianto. Il programma DSX più ampio di NVIDIA estende questa idea dall’allocazione a livello di rack alla risposta alla rete elettrica e ai futuri sistemi di distribuzione dell’energia.

Fonte

Esplora

Altri articoli