Vai al contenuto
AI.info

The Pulse

Cirrascale lancia una piattaforma di produzione per l’inferenza su più acceleratori

Cirrascale Cloud Services ha rilasciato una piattaforma di inferenza in produzione che instrada i modelli sugli acceleratori di NVIDIA, AMD, Qualcomm e Tenstorrent. La piattaforma aggiunge hosting privato dei modelli, fine-tuning, controlli

Cirrascale lancia una piattaforma di produzione per l’inferenza su più acceleratori

AI.info Team · Scritto con l’IA · verificato ·

«I clienti hanno fin dal primo giorno applicazioni funzionanti, controlli sulla spesa e meccanismi di sicurezza per gli agenti, con esecuzione in un ambiente privato sull’acceleratore più adatto al loro carico di lavoro.»

Alex Nataros, direttore tecnologico, Cirrascale Cloud Services

Cirrascale Cloud Services ha rilasciato la versione di produzione della sua Cirrascale Inference Platform, uno stack privato di IA aziendale progettato per instradare i carichi di lavoro sugli acceleratori di NVIDIA, AMD, Qualcomm e Tenstorrent. L’azienda ha annunciato il rilascio il 15 settembre 2026 all’AI Infra Summit di Santa Clara, in California.

La piattaforma riunisce in un’unica console web la distribuzione dei modelli, l’instradamento, la selezione degli acceleratori, i controlli di sicurezza e gli strumenti per le applicazioni. I clienti possono eseguire modelli open source, modelli privati ed ecosistemi di modelli chiusi, tra cui Google Gemini fornito on-premises tramite Google Distributed Cloud e gestito da Cirrascale.

Un’unica console per modelli, applicazioni e controlli

Cirrascale si rivolge a sistemi di ricerca, chatbot, copiloti per il lavoro, servizi agentici, assistenti di programmazione, analisi intelligente dei documenti e generazione video. La sua piattaforma collega queste pipeline ai dati e ai servizi aziendali esistenti, sia negli ambienti on-premises sia nelle infrastrutture degli hyperscaler.

L’offerta dell’azienda comprende un’applicazione di chat privata collegata alla base di conoscenze di un’organizzazione, controlli per gestire l’utilizzo dell’IA da parte dei team e meccanismi di sicurezza basati su policy per i carichi di lavoro agentici. Secondo Cirrascale, il modello di distribuzione supporta requisiti allineati a HIPAA, SOC 2 e FedRAMP, ove applicabili.

«Le aziende non hanno più difficoltà a mettere in funzione un endpoint per un modello», ha dichiarato Nataros. «Le difficoltà riguardano tutto ciò che lo circonda: governance, controllo dei costi e distribuzione di un’applicazione sicura ai dipendenti.»

Instradamento tra acceleratori di quattro fornitori

Il livello di selezione dei modelli e dell’hardware della piattaforma è pensato per separare la scelta del modello da un vincolo a un’infrastruttura fissa. La piattaforma può instradare automaticamente ogni richiesta al modello appropriato e selezionare un acceleratore disponibile, senza richiedere modifiche al codice delle applicazioni quando cambia l’hardware.

I fornitori di acceleratori supportati indicati nell’annuncio sono NVIDIA, AMD, Qualcomm e Tenstorrent. Il livello di ottimizzazione, afferma l’azienda, è progettato per aumentare il throughput, mantenere stabile la latenza all’aumentare della domanda ed eseguire modelli più grandi sui sistemi esistenti, rendendo al contempo più prevedibile il costo per token.

Nell’annuncio Cirrascale non pubblica risultati di benchmark, prezzi né un elenco dettagliato dei modelli di acceleratori. L’azienda presenta invece la scelta dell’hardware come una funzionalità operativa per le organizzazioni che vogliono confrontare combinazioni di modelli e acceleratori all’interno di un unico servizio.

Fine-tuning privato e distribuzione aziendale

Secondo Cirrascale, i clienti possono effettuare il fine-tuning dei modelli su dati privati senza spostarli al di fuori del proprio ambiente. I modelli così ottenuti possono essere distribuiti attraverso la stessa piattaforma e gli stessi endpoint utilizzati per altri carichi di lavoro.

Il servizio di produzione comprende anche l’operatività multi-regione, che consente alle pipeline aziendali di collegarsi a dati e servizi nelle sedi in cui sono già operativi. Cirrascale presenta questa soluzione come un’alternativa alla costruzione di livelli separati di inferenza, governance e applicazioni attorno alla capacità di calcolo grezza degli acceleratori.

La scommessa di Cirrascale sulla scelta dell’infrastruttura

Dave Driggers, amministratore delegato e cofondatore di Cirrascale, ha presentato il prodotto come una risposta al modo in cui i servizi cloud di IA legano solitamente i modelli all’hardware del fornitore.

«Loro scelgono il modello e noi lo mettiamo sull’hardware più adatto al compito, in un ambiente privato, a un prezzo su cui il loro direttore finanziario può fare affidamento per la pianificazione», ha dichiarato Driggers.

La Cirrascale Inference Platform è disponibile nelle regioni statunitensi e internazionali dell’azienda. Il suo rilascio segna il passaggio dalla precedente versione di anteprima della piattaforma a un servizio di produzione incentrato sulla selezione di acceleratori di diversi fornitori, sulla distribuzione privata e sui controlli software necessari per gestire l’inferenza aziendale.

Fonte

Notizie correlate

Esplora

Altri articoli