Vai al contenuto
AI.info

The Pulse

NVIDIA rende open source due progetti Kubernetes per l’infrastruttura GPU

Due progetti per creare e gestire servizi Kubernetes gestiti su infrastrutture GPU sono disponibili in anteprima pubblica. I progetti separano la gestione dei cluster dalla creazione riproducibile degli artefatti software utilizzati da quei

NVIDIA rende open source due progetti Kubernetes per l’infrastruttura GPU

AI.info Team · Scritto con l’IA · verificato ·

Due progetti per cluster GPU gestiti

NVIDIA ha reso disponibili in anteprima pubblica due progetti open source per creare e gestire servizi Kubernetes gestiti su infrastrutture GPU. NVIDIA Kubernetes Engine (NVKE) si occupa della gestione dei cluster, mentre NVIDIA Kubernetes Recipes (NVKR) crea gli artefatti software utilizzati da quei cluster.

NVIDIA afferma che i clienti delle fabbriche di IA vogliono utilizzare la capacità delle GPU attraverso API e strumenti Kubernetes familiari, mentre la fabbrica gestisce i cluster, e descrive i progetti come una suddivisione del lavoro: NVKE fornisce le API per predisporre e gestire i cluster, mentre NVKR produce immagini di sistemi operativi, immagini di container e pacchetti a partire da versioni definite del software.

Secondo NVIDIA, le fabbriche possono adottare i progetti insieme o separatamente. NVKE non dipende da NVKR durante l’esecuzione e NVKR può creare artefatti per altri sistemi di gestione Kubernetes.

Come viene assemblato il sistema

La procedura guidata inizia con la creazione di un’immagine del nodo tramite NVKR e la distribuzione di un piano di gestione NVKE. Il piano di gestione viene eseguito su un cluster di gestione Kubernetes, che lo strumento a riga di comando nvkectl configura avviando un cluster seed temporaneo su un host di bootstrap.

Da lì, il controller di NVKE richiede server a NVIDIA Infra Controller, o NICo, tramite CAPNICo, il provider di infrastruttura per NICo. Una volta predisposto, il cluster di gestione può creare cluster per i carichi di lavoro dei clienti, ciascuno con il proprio piano di controllo Kubernetes, etcd e pool di nodi. Secondo NVIDIA, un nodo deve presentare un’identità SPIFFE attestata prima di ricevere le credenziali per unirsi al cluster.

NVKR crea immagini dei nodi a partire da sorgenti con versioni fissate e registra gli elementi utilizzati. Nella procedura guidata, il processo di compilazione compila l’agente del nodo NVKE e OVN-Kubernetes, aggiunge i pacchetti Kubernetes 1.36 e l’agente SPIRE, quindi produce un’immagine disco QCOW2.

Le fabbriche pubblicano set di release identificati da un nome, tra cui i clienti possono scegliere. I set di release includono un’immagine della macchina, una release del cluster che registra la versione di Kubernetes e la configurazione del piano di controllo, e una release del pool di nodi per i nodi worker. I clienti inviano richieste di cluster tramite l’API NVKE e accedono alla propria API Kubernetes tramite un kubeconfig.

Stato dell’anteprima e partner

NVIDIA afferma che i suoi partner cloud Firmus e SK Telecom stanno integrando NVKE e NVKR nelle loro fabbriche di IA. NVIDIA cita anche Mirantis, Rafay, Spectro Cloud, OpenNebula Systems e vCluster come partner che stanno integrando componenti in offerte Kubernetes gestite, mentre Netris sta abilitando NVKE per l’automazione di rete.

Entrambi i progetti sono disponibili su GitHub con licenza Apache 2.0. Sono in anteprima pubblica e NVIDIA afferma che le loro API, la configurazione e il comportamento potrebbero cambiare da una release all’altra; per il momento non ne raccomanda l’uso per carichi di lavoro in produzione.

Fonte

Notizie correlate

Esplora

Altri articoli