The Pulse
Rafay e Fortanix estendono ai container il servizio di IA confidenziale
Rafay e Fortanix hanno esteso la loro integrazione per l’IA confidenziale ai carichi di lavoro eseguiti su CNCF Confidential Containers. Il servizio è disponibile insieme alla loro integrazione esistente per le macchine virtuali confidenziali.

Rafay e Fortanix hanno esteso la loro integrazione per l’IA confidenziale ai carichi di lavoro su container, consentendo agli operatori cloud di offrire ai clienti un’opzione self-service accanto alle macchine virtuali confidenziali. Il 12 novembre Rafay ha dichiarato che la sua piattaforma ora orchestra, con Fortanix Confidential AI, i carichi di lavoro eseguiti su CNCF Confidential Containers, o CoCo.
Fonte prnewswire.com
Il supporto è disponibile insieme all’integrazione esistente delle due aziende per le macchine virtuali confidenziali. L’offerta si rivolge a neocloud, cloud di IA sovrani e aziende che vogliono fornire IA confidenziale come servizio.
La verifica prima del rilascio delle chiavi
Le aziende affermano che il servizio esegue i carichi di lavoro in ambienti di esecuzione affidabili basati su hardware e rilascia le chiavi di crittografia solo dopo che l’ambiente e il carico di lavoro sono stati verificati mediante attestazione crittografica. Gli utenti avviano i carichi di lavoro attraverso un portale self-service, senza dover aprire una richiesta di assistenza.
Il comunicato afferma che la tecnologia dei container confidenziali esegue ogni pod Kubernetes in una propria macchina virtuale confidenziale leggera, con la memoria crittografata dalla CPU. Sull’hardware supportato, le GPU sono incluse nel perimetro di fiducia; gli sviluppatori distribuiscono i carichi di lavoro utilizzando flussi di lavoro Kubernetes standard.
Secondo le aziende, il gestore del calcolo verifica l’integrità degli ambienti di esecuzione di CPU e GPU, del firmware e dei componenti software prima di autorizzare il rilascio delle chiavi. Il gestore della sicurezza dei dati rilascia quindi le chiavi solo agli ambienti che hanno superato l’attestazione. Se l’attestazione fallisce, le chiavi rimangono protette, impedendo al carico di lavoro di accedere ai dati sensibili o di essere eseguito correttamente.
Come gli operatori offrono il servizio
Gli amministratori preparano i carichi di lavoro confidenziali come offerte di servizi, o SKU, che gli utenti possono avviare su richiesta. I modelli di configurazione della piattaforma installano i componenti aggiuntivi per i container confidenziali e li mantengono sincronizzati tra i cluster confidenziali.
Gli operatori possono integrare l’infrastruttura GPU e fornire a ogni cliente un tenant isolato, applicando al contempo criteri, controlli di accesso e quote ai tenant e ai cluster. Le aziende descrivono anche un servizio premium per i fornitori di neocloud e cloud GPU, supportato da prove che i carichi di lavoro vengono eseguiti in ambienti affidabili e che le chiavi vengono inviate a carichi di lavoro verificati.
Gli operatori di cloud sovrani possono conservare le chiavi in un modulo di sicurezza hardware sotto il loro controllo, sia in sede sia come software as a service. I fornitori di modelli possono distribuire modelli proprietari negli ambienti dei clienti con i pesi crittografati fino all’attestazione dell’ambiente, affermano le aziende.
Una dimostrazione e un flusso di lavoro esistente per le macchine virtuali
Una dimostrazione registrata mostra una banca che utilizza un’applicazione di trascrizione vocale per trascrivere le chiamate dei clienti all’interno di un container confidenziale. La banca e il fornitore cloud della dimostrazione sono aziende ipotetiche, non clienti identificati per nome.
Nella dimostrazione, uno sviluppatore di applicazioni crittografa l’immagine del container e registra la build presso il gestore del calcolo confidenziale. Un amministratore aziendale crea quindi un cluster confidenziale e pubblica l’applicazione come SKU; un utente aziendale la avvia dal portale self-service.
Separatamente, la documentazione di Fortanix sulla distribuzione descrive il flusso di lavoro esistente per eseguire carichi di lavoro di IA confidenziale in una macchina virtuale confidenziale. In quell’esempio, un modello proprietario e la sua applicazione di inferenza vengono inseriti in una macchina virtuale, che viene sottoposta ad attestazione prima di ricevere le chiavi di crittografia.
La documentazione elenca tra i prerequisiti per tale distribuzione in una macchina virtuale l’accesso ai due servizi Fortanix e un account Rafay. Specifica inoltre una piattaforma con una CPU compatibile con AMD SEV-SNP o Intel TDX e una GPU NVIDIA.
Fonti
Notizie correlate
- Cerebras registra una crescita del 55% dei ricavi nel terzo trimestre e alza le previsioni
- Nscale stima una perdita di 1,69 miliardi di dollari in nove mesi nella documentazione aggiornata per l’IPO
- NVIDIA segnala i progressi di Vera Rubin al debutto in MLPerf Training
- CoreWeave mette 504 GPU Vera Rubin in un cluster da sette rack
- DataX lancia un concierge IA personalizzabile per il servizio clienti