The Pulse
Hyve offrirà componenti Orion di Astera Labs nei rack per l’inferenza IA
Hyve Solutions integrerà Orion Compute Board, Fabric Tray e Link Board di Astera Labs nella sua piattaforma Apex per l’inferenza IA su scala rack. Le aziende affermano che i sistemi Apex con Orion sono in linea con i tempi previsti per la disponibilità nel primo trimestre del 2027.

Hyve Solutions offrirà Orion Compute Board, Fabric Tray e Link Board di Astera Labs come parte della sua piattaforma Apex su scala rack. Le aziende hanno dichiarato che i componenti pre-validati consentono ai clienti di scegliere acceleratori e CPU in base ai costi, ai tempi di consegna e alle esigenze dei carichi di lavoro, e possono abbreviare i cicli di integrazione e qualificazione.
La collaborazione si rivolge a neocloud ed enterprise che cercano di rendere disponibile più rapidamente capacità di inferenza IA. Orion Compute Board consente di scalare fino a otto acceleratori PCIe e periferiche tramite un unico switch fabric. Fabric Tray fornisce un fabric comune di scale-up per acceleratori e per il pooling delle risorse di memoria, mentre Link Board estende la connettività dalla tray alla scala del rack.
I sistemi Apex di Hyve sono raffreddati ad aria e possono quindi essere installati nei data center privi di infrastrutture di raffreddamento a liquido. Il telaio della piattaforma è progettato per supportare acceleratori di potenza superiore man mano che diventano disponibili.
«Progettiamo, integriamo, convalidiamo e implementiamo su scala rack. L’abbinamento di Hyve Apex con Orion di Astera Labs offre ai clienti un’IA con capacità di scale-up che possono implementare una volta e far evolvere nel tempo, sostituendo gli acceleratori quando cambiano i loro carichi di lavoro, senza ricostruire il sistema», ha dichiarato il dott. Dimitris Ziakas, direttore tecnico e vicepresidente per l’architettura di Hyve Solutions.
Prestazioni e disponibilità
In una configurazione a 8 GPU, uno switch Scorpio X-Series a 320 linee ha fornito fino all’89% di token al secondo in più rispetto a una configurazione di riferimento che utilizzava due switch a 144 linee. Il test ha misurato l’output su quattro modelli linguistici di grandi dimensioni e tre profili di carico di lavoro, con livelli di concorrenza da 1 a 512 richieste. Astera Labs e Hyve hanno precisato che i miglioramenti variano in base al modello e al carico di lavoro e che i risultati non sono indicativi delle prestazioni in tutti gli ambienti dei clienti.
I sistemi Hyve Apex con Orion sono in linea con i tempi previsti per la disponibilità nel primo trimestre del 2027. Per richieste commerciali, i clienti possono contattare Hyve Solutions o Astera Labs.
Fonte
Notizie correlate
- Cerebras porta in produzione l’inferenza IA suddivisa con GPU AMD
- Una scheda di valutazione sostenuta da WEKA mette in discussione l’uso delle GPU come metrica per l’inferenza dell’IA
- AMD conclude l’acquisizione di Taalas per aggiungere silicio per l’inferenza alla roadmap dei suoi acceleratori
- AMD riferisce kernel di raccordo per l’inferenza più veloci grazie alle configurazioni fissate di AITER
- Nvidia rivendica il primato di Vera Rubin nell’inferenza, secondo risultati provvisori di MLPerf