The Pulse
Clockwork.io raccoglie 31 milioni di dollari per il ripristino dei carichi di lavoro di IA
Clockwork.io ha raccolto 31 milioni di dollari mentre LinkedIn, Together AI e WhiteFiber ampliano l’impiego del suo software per le infrastrutture di IA. Le nuove funzionalità di TorchPass acquisiscono snapshot dei processi di addestramento
AI.info Team · Scritto con l’IA ·
Clockwork.io ha annunciato un round di finanziamento da 31 milioni di dollari il 5 ottobre 2026, insieme a nuove implementazioni presso LinkedIn e Together AI e a un ampliamento dell’utilizzo da parte di WhiteFiber. L’azienda propone il suo software per affrontare un tipo di guasto costoso nei grandi cluster di IA: quando una GPU o un collegamento di rete si guasta, i carichi di lavoro coordinati possono bloccarsi mentre i team riparano l’infrastruttura o riavviano i processi.
I checkpoint possono lasciare le GPU in attesa
Secondo Clockwork, il ripristino da un checkpoint convenzionale può richiedere fino a 90 minuti, durante i quali le GPU funzionanti possono restare inattive e il processo potrebbe dover ripetere il lavoro svolto dall’ultimo salvataggio. L’azienda cita l’addestramento di Llama 3 di Meta come esempio delle difficoltà operative: Meta ha segnalato interruzioni impreviste, in media circa una ogni tre ore, durante un’esecuzione durata 54 giorni su 16.384 GPU.
Il software LinkPass, già disponibile di Clockwork, instrada il traffico su percorsi alternativi quando un collegamento di rete si guasta; TorchPass sposta il lavoro da una GPU malfunzionante. L’azienda afferma che entrambi i prodotti sono in uso in produzione. L’annuncio del nuovo finanziamento presenta due funzionalità aggiuntive di TorchPass, pensate per preservare una parte maggiore dei progressi di un processo e supportare i sistemi di apprendimento per rinforzo.
TorchPass aggiunge snapshot dei processi e checkpoint in background
Gli snapshot della piattaforma su più nodi acquisiscono lo stato di esecuzione di un processo distribuito sui suoi nodi, consentendo ai team di piattaforma di ripristinare i carichi di lavoro di addestramento supportati dopo un’interruzione senza modificare il codice di addestramento né aggiungere logica di checkpoint a livello applicativo. Secondo Clockwork, questo può aiutare anche i fornitori di servizi cloud a proteggere i processi dei clienti di cui non controllano il codice.
Una seconda funzionalità crea rapidamente checkpoint applicativi in modo asincrono, mentre il processo continua a essere eseguito. Nell’apprendimento per rinforzo, questi checkpoint trasferiscono i pesi aggiornati del modello alle repliche di inferenza che generano esempi di addestramento, o rollout. Aggiornamenti più rapidi possono ridurre il tempo in cui le repliche restano in attesa o si affidano a pesi non aggiornati, mentre LinkPass è progettato per mantenere operative le repliche di inferenza distribuite su più server anche in caso di guasti ai collegamenti.
L’amministratore delegato di Clockwork, Suresh Vasudevan, ha descritto l’obiettivo come quello di preservare i calcoli utili, anziché limitarsi a ripristinare le macchine. «Su scala di IA, i guasti sono inevitabili. Non dovrebbe esserlo perdere per colpa loro ore di lavoro utile», ha dichiarato. L’annuncio non ha indicato i prezzi dei prodotti né una data di disponibilità generale per le nuove funzionalità.
LinkedIn segnala decine di migliaia di ore di attività delle GPU risparmiate
LinkedIn ha implementato LinkPass in tutta la sua infrastruttura di IA. Secondo Clockwork, il software evita ogni mese decine di migliaia di ore di inattività delle GPU; il responsabile dell’infrastruttura di LinkedIn, Raghu Hiremagalur, ha detto che in precedenza un guasto di rete poteva mettere fuori servizio un server con otto GPU, mentre un guasto a una porta dello switch poteva coinvolgere anche un secondo server.
«La sua tecnologia di tolleranza ai guasti di rete reindirizza automaticamente il traffico su percorsi funzionanti, consentendo ai processi di proseguire senza interruzioni mentre vengono riparati guasti ai collegamenti, ai moduli ottici, ai cavi o alle schede di rete», ha dichiarato Hiremagalur. L’implementazione descritta da LinkedIn riguarda la protezione della rete offerta da LinkPass, non indica che LinkedIn abbia adottato le nuove funzionalità di snapshot di TorchPass.
Together AI prevede di offrire TorchPass come servizio sui propri cluster di GPU e ha dichiarato che mostrerà un processo di addestramento su più nodi che prosegue senza riavviarsi nonostante guasti alle GPU e alla rete introdotti a scopo dimostrativo. WhiteFiber, già cliente, sta estendendo l’uso del software di Clockwork alla propria infrastruttura GPU-as-a-service. Secondo l’annuncio, il suo utilizzo comprende controlli automatici di collegamenti e nodi prima che i cluster entrino in produzione.
Gli investitori sostengono una più ampia iniziativa per la tolleranza ai guasti
Premji Invest, Wing Venture Capital e Seligman Ventures hanno guidato congiuntamente il round, a cui hanno partecipato anche gli investitori già presenti NEA ed e& Capital. Secondo Clockwork, il finanziamento porta il totale dei fondi raccolti a 73 milioni di dollari. L’azienda intende usare il capitale per estendere il proprio software all’addestramento, all’inferenza e all’apprendimento per rinforzo, aumentarne l’adozione da parte delle imprese e ampliare la distribuzione tramite partner cloud.
Il fondatore e capo analista di SemiAnalysis, Dylan Patel, ha citato nell’annuncio un risultato di ClusterMAX: TorchPass ha ridotto la perdita di goodput nell’addestramento dal 14% a meno del 3% per un neocloud classificato gold. Il goodput indica la quota del tempo di utilizzo delle GPU che fa avanzare un carico di lavoro. Il dato descrive il risultato di ClusterMAX citato, non un risultato registrato per ogni cliente o implementazione di Clockwork.
Il quadro commerciale delineato dall’annuncio è preciso: LinkedIn segnala ore di inattività evitate ogni mese grazie a LinkPass, Together AI prevede un servizio TorchPass e WhiteFiber sta ampliando l’utilizzo già in corso. Clockwork afferma che i team di piattaforma aziendali e i fornitori di servizi cloud possono contattare l’azienda per valutare il software in relazione ai propri carichi di lavoro.