The Pulse
Microsoft fa di Maia il suo sistema principale per l’inferenza
Microsoft afferma che, a partire dal 2027, porterà Azure Maia a installazioni da più gigawatt e farà di Maia il sistema principale per l’inferenza dei suoi prodotti e servizi. Maia 200 gestisce già carichi di lavoro in produzione, mentre l’
AI.info Team · Scritto con l’IA ·
Le implementazioni di Maia da più gigawatt iniziano nel 2027
Microsoft prevede di fare dei suoi acceleratori Azure Maia il sistema principale per l’inferenza nei propri prodotti e servizi, estendendo questa famiglia di hardware fino a implementazioni da più gigawatt a partire dal 2027. L’annuncio, pubblicato il 12 ottobre da Scott Guthrie, vicepresidente esecutivo di Microsoft per il cloud e l’IA, delinea per i chip sviluppati internamente dall’azienda un ruolo più ampio rispetto all’esecuzione di carichi di lavoro selezionati.
«Estenderemo la nostra famiglia Azure Maia fino a implementazioni da più gigawatt a partire dal 2027, facendo di Maia il sistema principale per l’inferenza nei prodotti e servizi Microsoft», scrive Guthrie nell’annuncio dell’azienda.
L’obiettivo riguarda implementazioni pianificate, non capacità già installata né una quantità dichiarata di elettricità consumata. Microsoft non indica i data center né fornisce un calendario di implementazione oltre alla data di avvio nel 2027.
Maia 200 è già impiegato per Copilot
Maia 200 è già in produzione: esegue carichi di lavoro di Microsoft Copilot e supporta il team MAI di Microsoft nello sviluppo di modelli. Microsoft afferma che l’acceleratore esegue modelli OpenAI, i propri modelli MAI e le principali famiglie di modelli open source. L’azienda prevede di aggiungere GitHub Copilot e Microsoft Foundry entro la fine del 2026.
Microsoft afferma che Maia 200 è in fase di implementazione negli Stati Uniti, in Europa e in Australia. Per le funzionalità di IA integrate nelle esperienze Teams, Copilot e Cowork, dichiara fino a 1,7 volte più token per watt rispetto alle principali infrastrutture GPU. Il confronto riguarda le esperienze elencate; l’annuncio non lo presenta come un benchmark generale per tutti i carichi di lavoro.
Maia 300 punta su contesti più lunghi e attività degli agenti
Microsoft descrive Maia 300, la terza generazione di Maia, come un sistema progettato anzitutto per l’inferenza, destinato al ragionamento su contesti lunghi, alle attività che richiedono molta memoria e ai compiti degli agenti articolati in più passaggi. L’avvio delle implementazioni in produzione è previsto per il 2027. Il progetto integra gli acceleratori con memoria, rete, software e infrastruttura dei rack, anziché considerare il chip un componente a sé stante.
L’azienda afferma che una configurazione completa di un rack con 96 acceleratori offre un throughput di token a livello di rack fino a sette volte quello di Maia 200. Prevede inoltre che Maia 300 fornisca il 40% di token per megawatt in più rispetto ai principali sistemi basati su GPU. Si tratta di confronti dichiarati da Microsoft; l’annuncio non descrive un benchmark indipendente né specifica i modelli testati e le impostazioni dei carichi di lavoro.
Memoria e rete definiscono il sistema
Secondo il post di Microsoft sull’architettura, ogni acceleratore Maia 300 utilizza otto stack HBM4, con una larghezza di banda di memoria di picco di 18 terabyte al secondo e una potenza termica di progetto di 950 watt. Per un rack con 96 acceleratori, l’azienda indica una potenza di 167 kilowatt, una capacità HBM di 27,6 terabyte e una larghezza di banda HBM aggregata di 1,7 petabyte al secondo. Questi dati descrivono livelli diversi del sistema: i primi si riferiscono a un acceleratore, mentre i valori relativi al rack comprendono tutti e 96 gli acceleratori.
L’architettura impiega anche più chiplet e una struttura di flusso dei dati definita via software, pensata per ridurre gli spostamenti di dati tra risorse di calcolo, memoria e rete. Microsoft afferma che il progetto del rack supporta carichi di lavoro che vanno dall’esecuzione di modelli con contesti lunghi alle conversazioni sensibili alla latenza. Nel post tecnico, l’azienda confronta Maia 300 con Maia 200 e dichiara prestazioni per watt fino a 2,5 volte superiori e un throughput di token a livello di rack fino a sette volte superiore in una configurazione completa con 96 acceleratori.
Principale non significa esclusivo
Microsoft afferma che Maia diventerà il sistema principale per l’inferenza nei suoi prodotti e servizi, ma non dice che smetterà di usare altri chip. L’annuncio descrive la piattaforma Microsoft come aperta, eterogenea e in grado di utilizzare modelli e chip diversi. Non rende noti neppure i prezzi di Maia 300, la disponibilità per i clienti o se i clienti Azure esterni ai servizi Microsoft potranno prenotare la capacità pianificata.
Per ora, i riferimenti concreti per l’implementazione sono i carichi di lavoro attualmente in produzione su Maia 200 e l’avvio della produzione di Maia 300 previsto per il 2027. Microsoft non ha specificato quanti gigawatt prevede di installare in questa prima fase né in quali sedi saranno ospitati i sistemi.