The Pulse
Astera Labs presenta Orion, un progetto di rack per un massimo di 160 acceleratori di IA
Astera Labs ha annunciato Orion, un’architettura di riferimento modulare per rack che consente alle neocloud e alle imprese di scegliere GPU e CPU di fornitori diversi. Secondo l’azienda, il progetto basato su PCIe può arrivare a 160 accele
AI.info Team · Scritto con l’IA ·
«Stiamo entrando in una nuova era dell’inferenza dell’IA, in cui gli operatori vengono giudicati in base ai token che forniscono per ogni dollaro, non all’hardware nei loro rack»
Pravin Patel, vicepresidente e direttore generale dell’AI Platform Solutions Group di Astera Labs, nell’annuncio dell’azienda
Orion separa il rack dalla scelta dei chip
Astera Labs ha annunciato Orion il 12 ottobre 2026 come architettura di riferimento modulare per rack destinati all’inferenza dell’IA. Il progetto è pensato per consentire ai fornitori di servizi cloud e alle imprese di scegliere GPU, altri acceleratori e CPU in base alla disponibilità, ai costi e ai carichi di lavoro, senza vincolare il rack a un’unica piattaforma di calcolo. Secondo Astera, i clienti possono cambiare queste scelte senza riprogettare il rack.
L’annuncio riguarda due problemi che l’azienda individua per gli operatori dell’inferenza: assicurarsi capacità di calcolo a costi accessibili e ridurre il lavoro di integrazione necessario ogni volta che viene introdotta una nuova piattaforma di acceleratori. Astera sostiene che vincolare un investimento infrastrutturale iniziale a un solo acceleratore può aumentare i costi e i rischi legati all’approvvigionamento. L’alternativa proposta è un’architettura comune per i rack, con la capacità di calcolo fornita tramite schede PCIe a innesto e assemblata attraverso partner produttivi.
Sei progetti comprendono moduli, schede e l’intero rack
Orion si compone di sei progetti di riferimento pronti per la produzione: un rack, un modulo di calcolo, un modulo di interconnessione, un modulo di memoria, una scheda di collegamento e una scheda di calcolo. Secondo Astera, i progetti sono pensati per ridurre il lavoro di integrazione e collaudo per i produttori ODM e OEM. L’azienda fornisce l’architettura e convalida i suoi sottosistemi; non prevede di costruire e vendere direttamente i rack completi.
La rete di interconnessione scale-up del sistema si basa su un progetto di switch PCIe a 320 linee; Astera descrive configurazioni da otto a 160 acceleratori per pod. La documentazione di prodotto indica PCIe 6 come architettura scale-up del rack. Un modulo di memoria collegato alla rete di interconnessione è pensato per ampliare la capacità di memoria e supportare l’offload della cache chiave-valore in prossimità delle GPU, mentre le schede di calcolo e di collegamento assicurano la connettività tra componenti e moduli.
Secondo l’azienda, i software COSMOS Rack Manager e COSMOS Fabric Manager di Astera gestiscono il sistema, la telemetria, la diagnostica e il controllo della rete di interconnessione. L’obiettivo prestazionale dichiarato per Orion è aiutare gli acceleratori a produrre più token al secondo nei carichi di lavoro di inferenza; l’annuncio non fornisce risultati di benchmark né confronti quantificati con i rack esistenti. È una distinzione importante: il comunicato descrive i benefici attesi dal progetto, non prestazioni misurate nelle installazioni dei clienti.
La vendita dei sistemi è prevista tramite partner OEM e ODM
Secondo Astera, i rack e i progetti di sistema Orion dovrebbero diventare disponibili tramite partner OEM e ODM a partire dal primo trimestre del 2027. I clienti sceglieranno la propria piattaforma di calcolo e poi si rivolgeranno a un partner per acquistare un rack completo o singoli sistemi Orion. L’azienda prevede di mostrare un rack alimentato, con moduli di calcolo intercambiabili e già convalidati, all’Open Compute Project Global Summit, in programma dal 12 al 15 ottobre a San Jose.
Il modello basato sui partner fa di Orion un’architettura di riferimento, anziché un singolo prodotto finito di Astera Labs. Offre ai clienti un percorso dichiarato per combinare componenti di calcolo di diversi fornitori, ma lascia anche la consegna dei sistemi e la disponibilità di specifiche configurazioni dipendenti dai partner e dalla fornitura dei componenti. L’annuncio di Astera presenta la flessibilità e i costi dell’inferenza come obiettivi del progetto; al lancio, l’adozione, i prezzi e le prestazioni nell’uso reale restano ancora da dimostrare.