The Pulse
Nvidia partecipa al round Series B da 14 milioni di dollari di Simplismart per il software di inferenza IA
Simplismart ha raccolto 14 milioni di dollari in un round Series B guidato da Dallas Venture Capital, con la partecipazione di Nvidia, Accel, Shastra VC e Micromax. La startup di Bengaluru afferma che userà i fondi per sviluppare software d
AI.info Team · Scritto con l’IA · verificato ·
Simplismart afferma che i suoi ricavi annualizzati sono cresciuti di 14 volte in sei mesi. La startup di Bengaluru, attiva nelle infrastrutture per l’IA, ha annunciato il 27 ottobre un round Series B da 14 milioni di dollari guidato da Dallas Venture Capital, con la partecipazione di Nvidia, Accel, Shastra VC e Micromax. La società afferma che investirà i nuovi capitali nel suo motore di inferenza e nella sua piattaforma di orchestrazione, oltre che nell’ampliamento delle partnership cloud, dando priorità al Nord America.
Nvidia sostiene un software che ottimizza i carichi di lavoro sulle GPU
Simplismart sviluppa software per distribuire e gestire modelli di IA sull’infrastruttura di calcolo già in uso presso i clienti. La sua piattaforma regola le scelte relative all’esecuzione dei modelli, tra cui l’uso dell’hardware, la precisione, il batching, il caching e la pianificazione dei carichi, per bilanciare i tempi di risposta, la capacità di elaborazione e i costi. Anche i fornitori di servizi cloud possono usare il software per offrire servizi di inferenza gestiti sulla propria capacità GPU.
«È il carico di lavoro a dover determinare l’infrastruttura. Non il contrario», ha scritto Amritanshu Jain, cofondatore e amministratore delegato di Simplismart, nell’annuncio del finanziamento. La tesi della società è che i sistemi che eseguono i modelli debbano essere configurati in base alle esigenze dell’applicazione, anziché essere ottimizzati per un unico indicatore di velocità o di prezzo messo in primo piano.
Simplismart afferma che tra i suoi clienti figurano HeyGen, Higgsfield, InVideo, Shiprocket, Apna ed Ema, con carichi di lavoro che spaziano dal video alla voce, dall’IA multimodale a quella aziendale. In un esempio riportato nell’annuncio, la società afferma che una configurazione in produzione per Ema ha raggiunto una latenza di 180 millisecondi a un costo di sette centesimi di dollaro per milione di token, rispetto agli obiettivi del cliente di circa 200 millisecondi e nove centesimi di dollaro. Questi dati sono il resoconto della società relativo a un’implementazione presso un cliente, non un benchmark indipendente.
Le dichiarazioni sulla crescita sono accompagnate da dati limitati
L’annuncio di Simplismart indica una crescita di 14 volte, ma non specifica la cifra dei ricavi su cui si basa. In un’intervista a TechCrunch, Jain ha descritto i ricavi annualizzati come una cifra a otto cifre; la testata ha precisato che il dato riflette l’utilizzo recente da parte dei clienti, non ricavi ricorrenti contrattualizzati, ed esclude i ricavi trasferiti ai fornitori di infrastrutture. La società non ha comunicato la cifra esatta dei ricavi annualizzati.
Secondo TechCrunch, il finanziamento attribuisce a Simplismart una valutazione di circa 100 milioni di dollari, compresi i nuovi capitali. L’annuncio della società non indica una valutazione. TechCrunch ha inoltre riferito che Nvidia ha collaborato con Simplismart su integrazioni tecniche, anche riguardanti il software di inferenza Dynamo di Nvidia, e ha messo la startup in contatto con potenziali clienti e partner.
L’investimento di Nvidia presenta una tensione commerciale
Simplismart afferma di poter aiutare i clienti a sfruttare meglio la capacità GPU esistente, anche assegnando ai carichi di lavoro una frazione di GPU anziché una GPU intera. Questa proposta può sembrare in contrasto con la posizione di Nvidia come fornitore leader di chip per l’IA. Jain ha detto a TechCrunch che un’inferenza più efficiente potrebbe rendere l’hardware di Nvidia più interessante e incoraggiare un uso più ampio delle applicazioni di IA.
Secondo TechCrunch, la startup compete non solo con il software di inferenza di Nvidia, ma anche con le offerte di Amazon Web Services, Google Cloud e Microsoft Azure. Jain ha detto alla testata che ciò che la distingue è la capacità di servire clienti con requisiti rigorosi sui livelli di servizio e limiti stringenti al costo totale di proprietà. L’annuncio del finanziamento non rivela l’entità dell’investimento di Nvidia né le condizioni della sua partecipazione.
Dalle singole implementazioni alla capacità GPU disponibile
Simplismart afferma che la sua prossima sfida tecnica è far incontrare la domanda con la capacità disponibile nelle diverse regioni e nei diversi fusi orari. La società sta sviluppando un sistema di pianificazione pensato per collocare i carichi di lavoro dove c’è capacità disponibile, rispettando al tempo stesso i requisiti sui tempi di risposta e le regole dei clienti relative alla residenza dei dati e alla conformità normativa. Questo estenderebbe la sua attività dall’ottimizzazione delle singole implementazioni al coordinamento della capacità nell’infrastruttura cloud.
La società afferma che il suo software è già alla base del livello di inferenza serverless di Shakti Studio di Yotta, dove gli utenti possono eseguire modelli senza gestire l’infrastruttura sottostante. La prova concreta della sua prossima fase sarà verificare se Simplismart riuscirà a estendere questo modello a più fornitori di servizi cloud e ad abbinare la capacità GPU inutilizzata ai carichi di lavoro in località diverse senza violare i limiti di latenza o di residenza dei dati.