The Pulse
NVIDIA lancia Minerva per individuare i guasti nelle fabbriche di IA
NVIDIA ha lanciato Minerva, una piattaforma AIOps che combina i dati di telemetria dell’infrastruttura e dei carichi di lavoro per aiutare gli operatori a individuare i problemi nelle fabbriche di IA. IREN la sta già utilizzando, mentre alt
AI.info Team · Scritto con l’IA · verificato ·
Minerva collega i segnali osservati da team diversi
NVIDIA ha lanciato Minerva il 22 ottobre, presentando la piattaforma AIOps come uno strumento per individuare i problemi nelle fabbriche di IA prima che interrompano le attività. La sfida operativa è che l’infrastruttura e i carichi di lavoro producono segnali d’allarme collegati tra loro, mentre i team responsabili della rete, delle risorse di calcolo, dell’affidabilità dei siti e del machine learning spesso monitorano sistemi separati. Una GPU che si scalda più delle altre o un’unità NVMe che rallenta sotto carico può influire su un job senza che la causa risulti evidente da una singola prospettiva.
Minerva riunisce in un quadro condiviso i dati di telemetria delle GPU NVIDIA, della rete, dello storage, degli scheduler e dei carichi di lavoro di IA. Secondo NVIDIA, la piattaforma costruisce un grafo della conoscenza che collega i componenti, tra cui GPU, SuperNIC, switch e cavi, ai job in esecuzione su di essi. Gli operatori possono usare queste informazioni per risalire dal rallentamento di una sessione di addestramento a un componente, anche in strutture con centinaia di migliaia di GPU.
Miliardi di dati alimentano la sua analisi degli incidenti
Secondo NVIDIA, Minerva analizza miliardi di dati ogni ora con tecniche di machine learning supervisionato e non supervisionato. Il sistema apprende quali sono i comportamenti abituali, rileva le anomalie, prevede possibili guasti e collega gli eventi correlati in base alla topologia della fabbrica. Anziché lasciare agli operatori il compito di esaminare una raffica di avvisi separati, può raggruppare i sintomi correlati in un incidente, indicando una probabile causa principale.
La piattaforma include anche un assistente conversazionale di IA basato su dati di telemetria in tempo reale e può collegarsi a strumenti esterni di IA agentica. Gli operatori possono chiedere informazioni sullo stato di salute del cluster e ricevere suggerimenti per risolvere i problemi. Secondo NVIDIA, i team possono applicare le modifiche direttamente oppure collegare Minerva a sistemi di automazione tramite API dell’infrastruttura e sistemi esterni.
IREN sostiene la proposta di una visione unificata
IREN è tra le organizzazioni che già utilizzano Minerva. «NVIDIA Minerva offre al nostro team operativo una visione unificata della rete, delle GPU e dei job in esecuzione su di esse, così possiamo concentrarci maggiormente sulla manutenzione preventiva anziché sulla risoluzione dei problemi», ha dichiarato Denis Skrinnikoff, direttore tecnologico di IREN. La sua descrizione rispecchia la promessa centrale del prodotto: collegare i segnali provenienti dai sistemi affinché i team impieghino meno tempo a individuare l’origine di un problema.
Anche Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI e Tesla prevedono di adottare Minerva. Dell Technologies, Lenovo e Supermicro prevedono di offrire la piattaforma nell’ambito dei propri portafogli per la gestione operativa delle fabbriche di IA. L’annuncio di NVIDIA non indica le date di adozione per queste organizzazioni.
NVIDIA non fornisce dati sui miglioramenti della disponibilità
L’azienda afferma che Minerva è progettata per allungare gli intervalli tra le interruzioni, accelerare le riparazioni e filtrare gli avvisi meno rilevanti. L’annuncio del lancio, però, non presenta risultati di benchmark, dati sulle prestazioni dei clienti né miglioramenti quantificati della disponibilità o dei tempi di riparazione. La distinzione è importante: l’annuncio descrive i benefici attesi e i piani dei partner, non risultati misurati nei sistemi in cui la piattaforma è stata adottata.
Per ora, la proposta concreta è uno strumento operativo che mette in relazione i dati di telemetria dell’hardware e dei job, offrendo la possibilità di scegliere tra la verifica umana e la risoluzione automatizzata dei problemi. Il suo valore dipenderà dalla capacità di questa visione unificata di aiutare gli operatori a individuare i guasti e a ripristinare le attività più rapidamente nelle fabbriche di IA operative.