The Pulse

Gimlet Labs raccoglie 300 milioni di dollari per l’inferenza IA su diversi tipi di chip

Gimlet Labs ha raccolto 300 milioni di dollari in un round di serie B guidato da Andreessen Horowitz per il suo cloud di inferenza basato su diversi tipi di chip. La startup di San Francisco afferma di avere miliardi di dollari di ricavi co

AI.info Team · Scritto con l’IA · verificato · 2026-09-12

Gimlet Labs ha annunciato il 4 settembre un round di serie B da 300 milioni di dollari, ottenendo nuovi capitali per il suo progetto di eseguire l’inferenza IA su diversi tipi di processori, anziché costruire data center basati esclusivamente sulle GPU.

Andreessen Horowitz ha guidato il round, al quale partecipano Sapphire Ventures, Menlo Ventures, 645 Ventures, Arm, Eclipse, Emergence, Factory, Hudson River Trading, M12, OnePrime Capital, Prosperity7, QuantumLight, Samsung Ventures, Tiger Global Management, Triatomic, Wing Ventures e XTX Markets. Un comunicato sul finanziamento diffuso dalla società indica una valutazione di Gimlet pari a 3 miliardi di dollari e finanziamenti complessivi per 392 milioni di dollari.

Dal round di serie A da 80 milioni di dollari di marzo, Gimlet ha acquisito miliardi di dollari di ricavi contrattualizzati e punta a espandersi fino a raggiungere centinaia di megawatt di capacità gestita, afferma la società. Il nuovo finanziamento sosterrà il suo cloud di inferenza, le operazioni infrastrutturali e le assunzioni.

La scommessa da 300 milioni di dollari di Gimlet sull’hardware misto

La tesi centrale di Gimlet è che le esigenze hardware dell’inferenza cambiano da una fase all’altra. La fase di prefill di una chiamata a un modello richiede generalmente molta capacità di calcolo, mentre la decodifica dipende maggiormente dalla larghezza di banda della memoria. I sistemi agentici aggiungono ulteriori variazioni, concatenando chiamate ai modelli con il recupero di informazioni, l’esecuzione di codice e l’uso di strumenti esterni.

Il software della società traccia e scompone i carichi di lavoro, quindi ne distribuisce le parti tra GPU, sistemi di calcolo vicino alla memoria, architetture dataflow e CPU. Il sistema può suddividere un modello tra più acceleratori, separare il prefill dalla decodifica e ridistribuire il lavoro quando una classe di processori raggiunge il limite di capacità.

«Abbiamo raggiunto un punto di svolta in cui l’inferenza è il carico di lavoro dominante dell’IA e la domanda di token è esplosiva», ha dichiarato Zain Asgar, cofondatore e amministratore delegato di Gimlet Labs. «Con Gimlet, i nostri clienti possono erogare enormi volumi di token con una latenza molto bassa, anche mentre i loro carichi di lavoro IA continuano a crescere sotto ogni aspetto».

La società dichiara velocità da 5 a 10 volte superiori a parità di consumo energetico, oppure miglioramenti comparabili del throughput a parità di latenza. Il suo annuncio sul finanziamento descrive il prodotto come un cloud basato su diversi tipi di chip e costruito specificamente per l’inferenza, anziché un cluster di addestramento riadattato.

Energia, latenza e limiti dell’espansione basata sulle sole GPU

Il finanziamento di Gimlet arriva mentre le aziende di IA devono affrontare vincoli che vanno oltre la disponibilità di chip. L’alimentazione dei data center, le connessioni alla rete elettrica, il raffreddamento e la disponibilità di memoria influiscono tutti sulla rapidità con cui i fornitori possono aggiungere capacità di inferenza. Gimlet cita circa 18 gigawatt di capacità dei data center per l’IA utilizzati nel 2025 e afferma che questa cifra potrebbe triplicare entro il 2030.

La società afferma inoltre che la generazione mensile di token è aumentata di sei volte nell’ultimo anno. La sua tesi è che gli operatori possano soddisfare più richieste con una disponibilità energetica fissa, assegnando ogni fase di un carico di lavoro all’hardware adatto a quel compito, anziché far passare ogni fase attraverso lo stesso acceleratore.

Raghu Raghuram, managing partner di Andreessen Horowitz, che entra nel consiglio di amministrazione di Gimlet, ha descritto l’investimento nel comunicato della società sul finanziamento come una risposta ai limiti fisici che l’infrastruttura per l’IA deve affrontare.

«La domanda di IA cresce esponenzialmente, mentre i data center e i chip non riescono a tenere il passo. La risposta non è soltanto avere più infrastrutture: serve un’architettura migliore».

Raghu Raghuram, managing partner, Andreessen Horowitz

La nota di Andreessen Horowitz sull’investimento afferma che il sistema di Gimlet può instradare modelli e strumenti su processori diversi, separare il prefill dalla decodifica e suddividere un modello a livello di singolo strato o operazione. La società afferma che Gimlet ha già adottato il suo approccio presso un laboratorio di frontiera e un hyperscaler, senza però indicare il nome di nessuno dei due clienti.

Dal round di serie A a centinaia di megawatt

Gimlet ha raccolto il suo round di serie A a marzo, guidato da Menlo Ventures, e all’epoca aveva dichiarato che la sua base clienti era triplicata, arrivando a includere un importante laboratorio di frontiera e un hyperscaler. La società è uscita dalla fase di riservatezza nell’ottobre 2025, dichiarando l’obiettivo di rendere più efficienti i carichi di lavoro IA ampliando la capacità di calcolo utilizzabile.

L’architettura della startup supporta ora chip di NVIDIA, AMD, Intel, Arm, Cerebras e d-Matrix. Sapphire Ventures, che ha partecipato al round di serie B, afferma che Gimlet sta espandendo la sua infrastruttura eterogenea fino a centinaia di megawatt e si è assicurata miliardi di dollari di ricavi contrattualizzati.

Questa affermazione riflette l’ampio divario tra una dimostrazione software e un servizio di inferenza che opera su scala industriale. Supportare più architetture di chip richiede compilatori, runtime, reti, sistemi di pianificazione, sistemi di alimentazione e soluzioni di raffreddamento in grado di tenere conto delle diverse esigenze dei dispositivi. Andreessen Horowitz osserva che persino le temperature dell’acqua in ingresso possono variare tra sistemi di accelerazione.

La prova è il tasso di utilizzo, non il totale dei finanziamenti

Gimlet propone una soluzione per aumentare l’efficienza in un momento in cui la nuova capacità è costosa e difficile da collegare alla rete elettrica. Il suo sistema deve dimostrare che i vantaggi ottenuti spostando il lavoro tra processori superano la maggiore complessità di gestione di un parco macchine misto.

Secondo l’annuncio della società, i carichi di lavoro possono essere pianificati in base ai requisiti del livello di servizio e all’hardware disponibile, riassegnando la capacità inutilizzata quando la domanda cambia. Questo approccio potrebbe essere particolarmente importante per i carichi di lavoro agentici, in cui un singolo compito richiesto dall’utente può generare decine di chiamate sequenziali ai modelli e la latenza si accumula a ogni passaggio.

Gimlet collabora con laboratori di frontiera e altri grandi utilizzatori di servizi di inferenza e prevede di estendere l’accesso oltre la sua attuale base clienti. L’obiettivo immediato dell’espansione non è un nuovo modello o un nuovo chip, ma una maggiore capacità gestita per il cloud di inferenza che la società sta costruendo dal suo lancio.