The Pulse
E2E Networks lancia Blaze, un’API per l’inferenza IA ospitata in India
E2E Networks ha lanciato Blaze, un servizio a consumo basato sui token che instrada le richieste verso modelli di IA aperti attraverso un’unica API compatibile con OpenAI, su un’infrastruttura GPU ospitata in India. Al lancio, l’azienda ha
AI.info Team · Scritto con l’IA · verificato ·
Sei famiglie di modelli dietro un’unica API
E2E Networks ha lanciato Blaze, un servizio di inferenza a consumo basato sui token che collega sviluppatori e aziende a sei famiglie di modelli aperti attraverso un’unica API compatibile con OpenAI. Nella comunicazione del 2 novembre alle borse indiane, l’azienda ha indicato NVIDIA Nemotron, Sarvam, DeepSeek, Qwen, GLM e Gemma. Secondo l’azienda, il servizio utilizza un’infrastruttura GPU NVIDIA ospitata in India e gestisce l’hosting e la scalabilità dei modelli per i clienti.
Blaze è rivolto ai clienti che vogliono inviare richieste di inferenza senza dover prima predisporre autonomamente la capacità GPU e l’infrastruttura necessaria per erogare i modelli. E2E afferma che gli utenti pagano solo per i token che consumano. La comunicazione elenca sia i mercati nazionali sia quelli internazionali e afferma che il prodotto è stato lanciato a livello globale, ma non indica i prezzi dei token né specifica le versioni dei modelli.
Tarun Dua, fondatore e amministratore delegato di E2E Networks, ha descritto il servizio come un’opzione di produzione per i modelli a pesi aperti: «Blaze è il servizio su cui potete eseguire l’inferenza in produzione». Ha affermato che i clienti chiedono questi modelli su cluster basati sui progetti di riferimento NVIDIA e operanti come infrastruttura di calcolo sovrana, e che Blaze funziona su E2E Cloud in India.
Il software NVIDIA gestisce l’erogazione e l’isolamento
Il servizio combina l’infrastruttura GPU NVIDIA con componenti open source di NVIDIA DSX OS, il livello software della NVIDIA DSX AI Factory Platform. Secondo E2E, NVIDIA Dynamo gestisce l’erogazione distribuita dei modelli, incluso l’instradamento che tiene conto del riutilizzo della KV-cache e delle fasi separate di prefill e decode. Secondo l’azienda, NVIDIA NIXL trasferisce i dati tra le GPU.
NVIDIA Grove e KAI Scheduler coordinano i carichi di inferenza nell’insieme delle infrastrutture Kubernetes di E2E. Per la separazione tra clienti, il comunicato cita le unità di elaborazione dati NVIDIA BlueField, il software DOCA e NVIDIA Infra Controller, che secondo quanto afferma garantiscono l’isolamento a livello hardware. E2E indica banche, fornitori di servizi sanitari e organizzazioni del settore pubblico soggetti a rigide norme sui dati come possibili beneficiari, ma la comunicazione non riporta risultati di test indipendenti sulle prestazioni o sulla sicurezza.
Vishal Dhupar, amministratore delegato di NVIDIA per l’Asia meridionale, ha dichiarato: «L’accesso alla potenza di calcolo per l’IA e ai servizi di inferenza è essenziale per far progredire l’ecosistema indiano dell’IA». Ha aggiunto che la piattaforma di calcolo accelerato di NVIDIA offre ai fornitori di servizi cloud come E2E una base per rendere l’IA più accessibile agli sviluppatori e alle aziende indiane.
Blaze affianca la piattaforma TIR di E2E
E2E colloca Blaze accanto a TIR, la sua piattaforma di IA per l’addestramento e la distribuzione dei modelli. Blaze offre inferenza tramite API per i modelli a pesi aperti; TIR offre ai clienti un controllo più diretto attraverso Kubernetes gestito, inferenza ospitata autonomamente e pre-addestramento e post-addestramento su cluster di GPU NVIDIA Blackwell. La comunicazione afferma che i clienti possono anche eseguire su TIR, con NVIDIA Dynamo integrato, modelli propri o sottoposti a fine-tuning.
La distinzione è tra richiamare l’endpoint di un modello gestito e gestire una parte più ampia dello stack del modello e dell’infrastruttura. In questo modo E2E può servire sia i clienti che vogliono un’API pronta all’uso sia i team che devono personalizzare o ospitare autonomamente i modelli. La comunicazione non specifica quali modelli di Blaze siano operativi al lancio né descrive come i clienti possano scegliere tra loro.
Un piano per un’AI factory da 14,6 MW
Blaze trasforma parte della capacità GPU di E2E in un servizio di inferenza a consumo. L’azienda afferma che la capacità della sua AI factory è in espansione fino a circa 14,6 megawatt, compresi un cluster NVIDIA Blackwell da 1.024 GPU operativo da maggio 2026 e ulteriori 5,4 MW di capacità Blackwell, che includono sistemi HGX B300 e altre GPU Blackwell.
La comunicazione non indica quanta parte di tale capacità utilizzi Blaze, quanti clienti abbiano aderito o quali siano i tempi di risposta del servizio. L’offerta dichiarata è più circoscritta e concreta: un’unica API compatibile per le famiglie di modelli aperti indicate, ospitata su un’infrastruttura GPU NVIDIA in India, con addebiti basati sui token utilizzati.