The Pulse
NVIDIA contribuisce OpenShell alla CNCF
NVIDIA contribuisce OpenShell, il suo runtime per agenti, alla Cloud Native Computing Foundation come progetto Sandbox. Ha inoltre annunciato strumenti per Kubernetes, tra cui due progetti in anteprima pubblica e un componente che, secondo

AI.info Team · Scritto con l’IA · verificato ·
Il contributo di OpenShell
NVIDIA contribuisce OpenShell, il suo runtime per proteggere e governare gli agenti di IA autonomi, alla Cloud Native Computing Foundation (CNCF). Il contributo è stato annunciato il 10 novembre insieme ad altri lavori sull’infrastruttura Kubernetes durante KubeCon + CloudNativeCon.
Il contributo è stato designato come progetto Sandbox della CNCF. Secondo NVIDIA, sarà governato dalle organizzazioni che integrano OpenShell nei propri prodotti e rafforzato da professionisti della sicurezza. La CNCF è una componente senza scopo di lucro della Linux Foundation e ospita KubeCon.
Controlli e carichi di lavoro degli agenti
OpenShell consente alle organizzazioni di impostare controlli deterministici sugli agenti mentre utilizzano strumenti, accedono a servizi di inferenza ed eseguono carichi di lavoro. La sua architettura può collegarsi alle risorse di calcolo di un’organizzazione, ai fornitori di inferenza, ai sistemi di archiviazione delle credenziali e agli strumenti di monitoraggio, consentendo la governance nei diversi ambienti di implementazione.
Centinaia di organizzazioni hanno utilizzato OpenShell e il progetto ha ricevuto decine di migliaia di contributi in meno di un anno dal lancio, ha dichiarato NVIDIA. NVIDIA contribuisce anche ad Agent Substrate, un framework open source guidato da Google per l’esecuzione su Kubernetes di carichi di lavoro degli agenti di lunga durata, che è stato accettato nella CNCF Sandbox.
Agent Substrate conserva gli ambienti degli agenti tra un’attività e l’altra, rilasciando le risorse di calcolo quando gli agenti sono inattivi. La sospensione e la ripresa degli ambienti in un pool condiviso consentono ai team di scalare i carichi di lavoro senza mantenere attive risorse di calcolo dedicate per ogni sessione.
NVIDIA e Google collaborano all’integrazione di OpenShell e Agent Substrate, che secondo NVIDIA è destinata a proteggere e governare gli agenti nei cloud e nei sistemi on-premises. L’iniziativa collega inoltre l’esecuzione degli agenti a NVIDIA Dynamo per l’inferenza dei modelli e a KAI Scheduler per l’allocazione delle risorse condivise del cluster.
Progetti infrastrutturali
NVIDIA ha anche annunciato tre componenti della sua DSX AI Factory Platform: NVIDIA Kubernetes Engine, NVIDIA Kubernetes Recipes e NVIDIA Snapshot. NVIDIA ha descritto i progetti come strumenti open source per aiutare i team a implementare, gestire e scalare l’infrastruttura GPU su Kubernetes.
NVIDIA Kubernetes Engine e NVIDIA Kubernetes Recipes sono ora in anteprima pubblica e offrono componenti di base per servizi Kubernetes gestiti su infrastrutture GPU. Automatizzano la gestione del ciclo di vita dei cluster e forniscono immagini firmate con versioni fissate.
NVIDIA ha dichiarato che Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster, Firmus e SK Telecom si sono allineate con l’azienda sui piani di integrazione. Secondo la società, i piani porteranno le funzionalità dei due progetti nelle offerte di queste aziende.
NVIDIA Snapshot è un componente modulare open source che, secondo NVIDIA, ripristina in pochi secondi le repliche salvate tramite checkpoint, senza dover ricaricare o riscaldare il modello. NVIDIA ha dichiarato che è destinato a supportare un avvio, un ripristino e un’elasticità più rapidi per i carichi di lavoro di inferenza e degli agenti su Kubernetes.
Le valutazioni dei partner
I partner di progettazione Crusoe e Saturn Cloud hanno valutato Snapshot sui propri carichi di lavoro utilizzando sistemi NVIDIA HGX B300. Crusoe, che contribuisce al progetto upstream di Snapshot, ha testato GLM-5.3 su Crusoe Cloud e ha riferito che il tempo necessario per essere pronto è sceso da circa otto minuti a 31 secondi.
Saturn Cloud, che NVIDIA descrive come una piattaforma per la produzione di token, ha valutato con un benchmark Snapshot per l’inferenza con scalabilità da zero. NVIDIA ha riferito che i tempi di avvio di vLLM sono scesi da un intervallo compreso tra due e 8,5 minuti a uno compreso tra sei e 34 secondi.
Fonte
Notizie correlate
- NVIDIA lancia una piattaforma aperta per la sicurezza degli agenti con controlli a runtime
- Agent Substrate punta a una maggiore densità dei carichi di lavoro Kubernetes
- Google Cloud presenta uno stack IA aperto per Kubernetes
- NVIDIA sostituisce le chiavi SSH di Brev dopo un incidente di sicurezza durato 16 giorni
- Firebird, partner di NVIDIA, ottiene una licenza per 45.000 GPU in Kazakistan