Vai al contenuto
AI.info

The Pulse

Qualcomm AI200 apre ai test di alcuni clienti su Cirrascale

Alcuni clienti selezionati di Cirrascale possono ora valutare Dragonfly AI200 di Qualcomm sui propri carichi di lavoro di inferenza IA. La piattaforma rack-scale dispone di 768 GB di memoria per scheda ed è progettata per modelli linguistici di grandi dimensioni e multimodali.

Qualcomm AI200 apre ai test di alcuni clienti su Cirrascale

Alcuni clienti selezionati di Cirrascale possono ora testare la piattaforma di inferenza Dragonfly AI200 di Qualcomm sui propri modelli e carichi di lavoro tramite AI Innovation Cloud del provider cloud. Le aziende hanno dichiarato il 17 novembre che offriranno supporto per attività di validazione, benchmarking e proof of concept sul sistema rack-scale.

Fonte webwire.com

AI200 è progettato per eseguire modelli linguistici di grandi dimensioni, modelli multimodali e altri carichi di lavoro di IA. Il comunicato delle aziende descrive un percorso dalla valutazione alle implementazioni di inferenza in produzione, limitando al contempo l’accesso attuale alla valutazione ad alcuni clienti selezionati.

Inferenza e costi

La piattaforma è progettata per offrire prestazioni elevate per dollaro per watt e un basso costo totale di proprietà, afferma il comunicato. Cirrascale fornisce l’ambiente cloud e l’infrastruttura gestita, mentre Qualcomm Technologies mette a disposizione le proprie competenze nell’accelerazione dell’IA e nei sistemi rack-scale.

Il comunicato descrive il modello commerciale di Cirrascale come a tariffa fissa, senza costi di ingresso o uscita. Presenta consumo energetico, prestazioni e costi come aspetti da considerare per le aziende che implementano l’IA generativa su larga scala.

Dave Driggers, CEO di Cirrascale, ha affermato che i clienti hanno bisogno di infrastrutture in grado di supportare modelli più sofisticati senza che i costi energetici e operativi diventino fattori limitanti. Tony Pialis, vicepresidente esecutivo e direttore generale per i data center di Qualcomm Technologies, ha dichiarato che la collaborazione consente ai clienti di valutare la tecnologia sui propri carichi di lavoro.

Memoria e progettazione del rack

AI200 dispone di 768 GB di memoria LPDDR per scheda. Secondo le aziende, è progettato per supportare l’inferenza con modelli fondazionali di prossima generazione su scala di 1.000 miliardi di parametri.

Cirrascale indica una capacità di memoria di 36,8 TB e una larghezza di banda della memoria di 355 TB/s per rack. L’azienda afferma che AI200 è adatto a modelli da 7 miliardi fino a 10.000 miliardi di parametri, compresi quelli con contesti lunghi, generazione aumentata dal recupero delle informazioni e carichi di lavoro agentici.

Il sistema a livello di rack combina raffreddamento a liquido diretto, PCIe scale-up, Ethernet scale-out e confidential computing. È supportato da Qualcomm AI Management Suite e dall’ecosistema di supporto per i principali framework di IA, secondo il comunicato.

Cirrascale descrive un rack integrato conforme a OCP ORv3, con raffreddamento a liquido diretto e un backplane senza cavi. La pagina del prodotto elenca anche strumenti software per la distribuzione dei modelli come bare metal, macchine virtuali cloud o inferenza come servizio.

Una precedente offerta cloud

Le aziende avevano già collaborato in precedenza sui servizi di inferenza. Nel marzo 2025, Cirrascale ha annunciato Inference Cloud, basato su Qualcomm AI Inference Suite, dopo aver lanciato in precedenza un ambiente sperimentale in cui gli sviluppatori potevano provare modelli di IA, agenti e librerie.

Il precedente ambiente sperimentale utilizzava l’acceleratore Cloud AI 100 Ultra di Qualcomm. Il comunicato precedente affermava che i clienti di Inference Cloud pagavano in base all’utilizzo dei modelli di IA e vi accedevano tramite endpoint API; il nuovo annuncio descrive il modello commerciale a tariffa fissa di Cirrascale per la collaborazione.

Una dimostrazione di AI200 è in programma allo stand di Cirrascale alla conferenza SC26 di Chicago il 17–18 novembre. Anche Rashid Attar, dirigente del settore ingegneristico di Qualcomm, è atteso il 18 novembre a un panel sul calcolo near-memory e sulle infrastrutture per l’IA, insieme a Driggers e a rappresentanti di Meta e Imec.

Fonti

  1. WebWire
  2. Cirrascale Cloud Services
  3. Cirrascale Cloud Services

Notizie correlate

Esplora

Altri articoli