The Pulse
Nebius acquisisce Inferize per ridurre i tempi di avvio a freddo dei modelli di IA
Nebius afferma che la tecnologia di Inferize è progettata per ridurre il tempo e la capacità delle GPU impegnati quando i grandi modelli di IA si avviano o aumentano di scala. Il 1° ottobre 2026 l’azienda ha annunciato che la tecnologia e i
AI.info Team · Scritto con l’IA ·
Nebius afferma che la tecnologia di Inferize può ridurre il tempo che i grandi modelli di IA trascorrono in attesa di rispondere alle richieste, e la capacità delle GPU che resta inutilizzata durante il loro avvio. Il 1° ottobre 2026 l’azienda ha annunciato di aver acquisito Inferize e che la sua tecnologia e il suo team sono entrati a far parte di Nebius Token Factory, la piattaforma gestita di Nebius per l’inferenza in produzione. L’integrazione della tecnologia è in corso, si legge nell’annuncio. Nebius non ha reso noti i termini finanziari dell’operazione né quantificato i risparmi attesi.
Gli avvii a freddo lasciano le GPU in attesa
Un avvio a freddo è il tempo necessario a caricare un modello prima che possa rispondere a una richiesta, spiega Nebius. Quando la domanda aumenta bruscamente e si avviano nuove istanze, le GPU assegnate possono restare inutilizzate durante il processo di avvio. L’azienda indica anche gli aggiornamenti dei pesi durante un’esecuzione, per esempio nell’apprendimento per rinforzo, come una situazione che può lasciare le GPU in attesa. Le piattaforme possono mantenere capacità di riserva per rispettare gli obiettivi di livello del servizio, anche quando quella capacità non viene usata per rispondere alle richieste.
Nebius afferma che la tecnologia di Inferize riduce questi tempi di inattività, consentendo alla capacità di adattarsi più da vicino all’utilizzo effettivo. Secondo l’azienda, ciò può migliorare l’utilizzo della capacità e l’economia dei token. L’annuncio non fornisce benchmark, una riduzione misurata dei tempi di avvio o una variazione quantificata nell’utilizzo delle GPU: l’entità degli eventuali risparmi operativi resta quindi imprecisata. Descrive l’effetto previsto, ma non indica una data di disponibilità per i clienti né precisa come avverrà il rilascio dell’integrazione.
Inferize entra nel team di ingegneria di Token Factory
Secondo Nebius, la tecnologia e il team di Inferize sono entrati a far parte di Token Factory. L’azienda afferma che gli ingegneri di Inferize lavoreranno su tutta la piattaforma, a partire dall’integrazione della loro tecnologia. Inferize è stata fondata nel gennaio 2026 e disponeva di un prototipo funzionante entro tre mesi, si legge nell’annuncio. Nebius non ha fornito un calendario per il completamento dell’integrazione.
Danila Shtan, direttore tecnologico di Nebius, ha detto che il lavoro riguarda la rapidità con cui nuova capacità può rispondere ai cambiamenti della domanda. Ha descritto l’acquisizione come un modo per portare in Token Factory sia la tecnologia sia competenze specialistiche nei sistemi GPU.
«Per gestire bene l’inferenza non bastano GPU veloci e modelli ottimizzati. L’intero sistema deve rispondere quando la domanda cambia, anche per quanto riguarda la rapidità con cui la capacità aggiuntiva è pronta a servire i clienti».
Shtan ha detto che il contributo del team andrà oltre la prima integrazione. L’annuncio non specifica quali progetti successivi o modifiche ai prodotti potrebbe riguardare questo lavoro.
Una gamma di tecnologie in crescita, senza termini dell’accordo resi noti
Nebius presenta Inferize come un’ulteriore aggiunta alle capacità di inferenza in produzione di Token Factory. Afferma che Eigen AI ha apportato ottimizzazioni a livello di modello, kernel e sistema, mentre il team principale di Clarifai e la sua tecnologia concessa in licenza hanno aggiunto capacità di inferenza a livello di sistema e di orchestrazione del calcolo. La tecnologia di Inferize punta a ridurre il tempo e la capacità necessari per rendere operativi i modelli al variare dei carichi di lavoro.
Guy Bortnikov, cofondatore e amministratore delegato di Inferize, ha definito la capacità di riserva un costo della preparazione alla domanda. Ha detto che il team lavorerà sull’intera gamma di tecnologie con l’obiettivo di soddisfare una maggiore domanda dei clienti con ciascuna GPU. Nebius non ha reso noto quanto ha pagato, quando l’integrazione sarà disponibile per i clienti né se le variazioni nell’utilizzo delle GPU influiranno sui prezzi di Token Factory.
«Mantenere in funzione GPU di riserva è il prezzo da pagare per essere pronti a soddisfare la domanda. Eliminare quel costo è ciò per cui abbiamo creato Inferize, e Nebius è il luogo in cui la tecnologia può entrare direttamente nella piattaforma».