The Pulse
DeepSeek rende disponibili gli strumenti di programmazione per Huawei Ascend
DeepSeek ha annunciato una collaborazione con Huawei per sviluppare software per i chip di IA Ascend e ha pubblicato una versione di DeepGEMM dedicata ad Ascend. La documentazione della versione descrive le operazioni supportate dal softwar
AI.info Team · Scritto con l’IA ·
«Per costruire una nuova generazione di un ecosistema software per GPU indipendente e sotto il proprio controllo, la prima priorità è creare un linguaggio di alto livello che sia universale, facile da usare per programmare e al tempo stesso capace di sfruttare appieno il potenziale prestazionale dell’hardware»
DeepSeek, in un post sul suo account WeChat ufficiale
Mercoledì 30 settembre, DeepSeek ha dichiarato di aver avviato una collaborazione con Huawei Technologies per sviluppare strumenti di programmazione per i chip di IA Ascend di Huawei. L’azienda ha detto che sta rendendo open source l’infrastruttura di programmazione per la piattaforma, comprese le librerie di calcolo e comunicazione.
Strumenti per la piattaforma Ascend
DeepSeek ha dichiarato che Huawei ha fornito pieno supporto allo sviluppo dell’infrastruttura di programmazione. La collaborazione riguarda il software per i processori Ascend di Huawei, non un nuovo modello DeepSeek né un nuovo chip.
DeepSeek ha inoltre richiamato l’attenzione su TileLang, un linguaggio di programmazione open source di alto livello per i chip di IA. Ha spiegato che il linguaggio è pensato per rendere più efficiente lo sviluppo e semplificare la logica del codice. L’azienda ha descritto il modello di programmazione di TileLang come più semplice di CUDA di Nvidia: un confronto importante per gli sviluppatori che valutano software per processori esterni all’ecosistema Nvidia.
Il repository GitHub pubblicato da DeepSeek per DeepGEMM Ascend offre un quadro più preciso del software rilasciato. Descrive il progetto come un porting di DeepGEMM sulla piattaforma Ascend di Huawei, progettato per mantenere la compatibilità con l’API di DeepGEMM. Secondo il repository, supporta la moltiplicazione generale di matrici nei formati BF16, FP8 e FP4, oltre a MQA logits e MegaMoE.
Secondo il repository, DeepGEMM Ascend usa un livello di astrazione per le operazioni di moltiplicazione e somma di matrici di Ascend, che nasconde dettagli come la disposizione dei dati in memoria, i requisiti di allineamento e i calcoli degli indirizzi. Descrive inoltre ottimizzazioni specifiche per Ascend, tra cui il caricamento di dati sparsi e l’elaborazione in pipeline basata su coroutine. Il README del progetto indica che la versione iniziale, datata 30 settembre, supporta i dispositivi Ascend 950.
Un sistema a 128 chip
DeepSeek ha dichiarato che le due aziende hanno portato avanti insieme una soluzione «supernode» basata su 128 chip Ascend 950, lavorando per ottimizzare sia il calcolo sia la comunicazione all’interno del sistema. L’annuncio è arrivato due settimane dopo che Huawei aveva presentato la sua prossima generazione di processori per l’IA e di sistemi di calcolo supernode. Huawei ha detto di prevedere che i suoi sistemi di IA saranno ampiamente utilizzati per l’addestramento dei modelli nel 2027.
Il repository descrive anche test delle prestazioni su un sistema Ascend 950DT, effettuati con il toolkit software CANN 9.20. I risultati riportati per la moltiplicazione di matrici dense includono, nei casi testati, livelli di utilizzo fino al 99,8% del limite hardware indicato. Si tratta di risultati riportati nel repository per carichi di lavoro specificati, non di un confronto diretto con i chip Nvidia.
Che cosa dimostra la pubblicazione
La pubblicazione open source e l’annuncio della collaborazione documentano il lavoro sul software e su un sistema a più chip, ma non dimostrano che DeepSeek abbia smesso di usare hardware Nvidia.
Per ora, i dettagli pubblici sono concreti: DeepSeek ha pubblicato un progetto software dedicato ad Ascend, ne ha descritto le funzionalità e ha elencato misurazioni delle prestazioni per test specifici. La capacità di questi strumenti di rendere i sistemi Ascend più facili da usare per una gamma più ampia di carichi di lavoro dipenderà dall’esperienza degli sviluppatori con gli strumenti e con i sistemi stessi.