Vai al contenuto
AI.info

The Pulse

Google riferisce i risultati delle TPU Ironwood nei test di addestramento MLPerf

Google afferma che un sistema Ironwood con 8.192 chip ha raggiunto un obiettivo di benchmark di addestramento in 1,70 minuti. Le submission includono anche un test di apprendimento per rinforzo agentico e risultati ottenuti con GPU Nvidia.

Google riferisce i risultati delle TPU Ironwood nei test di addestramento MLPerf

Un sistema Ironwood con 8.192 chip ha raggiunto un obiettivo di benchmark per l’addestramento di modelli in 1,70 minuti, ha dichiarato Google in una nuova serie di risultati MLPerf. Il 16 novembre Google Cloud ha pubblicato 10 risultati riguardanti le TPU di settima generazione e le GPU Nvidia Grace Blackwell.

Le submission spaziano dal pre-addestramento all’apprendimento per rinforzo agentico e comprendono quello che Google descrive come il primo benchmark MLPerf per l’apprendimento per rinforzo agentico. I test utilizzano l’architettura AI Hypercomputer dell’azienda.

Addestramento su larga scala

Le submission per il pre-addestramento di DeepSeek-V3 hanno utilizzato configurazioni Ironwood da 2.048, 4.096 e 8.192 chip. Google afferma che il lavoro di pre-addestramento è stato esteso fino a 4.096 chip con un’efficienza del 96%.

I tempi riportati misurano l’addestramento a partire da un checkpoint di riferimento ufficiale fino al raggiungimento del criterio di convergenza previsto dal benchmark, anziché l’intero processo dall’inizio dell’addestramento di un modello. I risultati sono elencati nella divisione chiusa di MLPerf Training v6.1.

Test di apprendimento agentico

La submission di Ironwood per l’apprendimento per rinforzo ha utilizzato 640 chip e il modello Qwen3.5-397B. L’azienda riferisce che il sistema ha raggiunto l’accuratezza obiettivo del benchmark di coding in 18,02 minuti, con un risultato di 0,765 rispetto a un obiettivo di 0,69.

Google afferma che in quel test la generazione di codice e l’apprendimento sono avvenuti simultaneamente, lasciando inattivi i chip di addestramento per meno del 3% del tempo. L’apprendimento per rinforzo può comprendere sia il campionamento per generare nuovi dati sia passaggi di apprendimento che aggiornano un modello, secondo una precedente descrizione di Google Cloud dello stack software Ironwood.

Submission con GPU

Sulle istanze A4X Max di Google Cloud, 256 GPU Nvidia GB300 hanno raggiunto l’obiettivo di qualità del benchmark DeepSeek-V3 in 31,96 minuti, secondo l’azienda. Google ha inoltre presentato cinque risultati A4X e A4X Max per il benchmark di apprendimento per rinforzo agentico.

Questi test comprendevano configurazioni A4X con 56 e 64 GPU GB200 e configurazioni A4X Max con 56 e 64 GPU GB300. Un’ulteriore submission A4X ha utilizzato 256 GPU GB200 per l’apprendimento per rinforzo.

Il sistema Ironwood

Ironwood è la Tensor Processing Unit di settima generazione di Google. In una precedente guida tecnica, Google Cloud ha descritto un’architettura che supporta pod fino a 9.216 chip, utilizzando connessioni tra chip, commutazione ottica, una rete di data center e memoria ad alta larghezza di banda.

Il suo commutatore ottico di circuito collega gruppi di chip, mentre i collegamenti tra chip connettono i chip all’interno di quei gruppi. Secondo una precedente descrizione di Google Cloud, la rete ottica può aggirare un gruppo o un collegamento non funzionante e connettere invece gruppi funzionanti.

La guida di Google descrive anche il software utilizzato per l’addestramento su Ironwood, tra cui JAX e MaxText. Presenta Tokamax come una libreria di kernel JAX ottimizzati per le TPU e descrive strumenti per distribuire pesi dei modelli, gradienti e altri dati di addestramento tra i chip.

Fonti

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli