The Pulse
SafeWorld raccoglie 12,2 milioni di dollari per testare la sicurezza dei robot in simulazione
SafeWorld ha raccolto 12,2 milioni di dollari in un finanziamento iniziale per simulare il comportamento dei robot controllati dall’IA in situazioni pericolose e impreviste a contatto con le persone. La startup di Palo Alto afferma di aver
AI.info Team · Scritto con l’IA ·
I produttori di robot gestiscono spesso l’incertezza con barriere fisiche e limiti di velocità; SafeWorld sostiene che i test simulati possano far emergere più pericoli prima che le macchine entrino in contatto con le persone. La startup di Palo Alto ha annunciato il 5 ottobre di aver raccolto 12,2 milioni di dollari in un finanziamento iniziale per sviluppare software destinato a testare la sicurezza dei robot, compresi i sistemi controllati dall’IA generativa. La sua proposta è ambiziosa: modellare gli incontri rischiosi in ambienti virtuali, anziché affidarsi soltanto alle prove fisiche.
Ma la simulazione non risolve la questione della sicurezza di un robot in un vero luogo di lavoro. SafeWorld sta ancora decidendo se vendere la propria tecnologia come piattaforma utilizzabile autonomamente dai clienti o offrire i test come servizio, e la sua argomentazione a favore dell’adozione si basa in parte sui primi progetti pilota e sulla promessa di ripetere i test man mano che i robot cambiano.
Dagli angoli ciechi alle cadute simulate
SafeWorld afferma che i clienti possono creare scenari in un browser usando incidenti passati, norme di sicurezza e registri dei robot. Il software testa poi il robot in migliaia di varianti, con persone simulate che si muovono in modo realistico. L’azienda afferma che i team possono ripetere i test dopo gli aggiornamenti del software o quando un robot entra in un nuovo ambiente.
In un’intervista a TechCrunch, il cofondatore Kyle Wong ha indicato gli angoli ciechi, le distanze di arresto e i lavoratori che trasportano scatole come scenari importanti nelle fabbriche. Una simulazione potrebbe anche verificare come un robot reagisce a una persona che inciampa o cade: un evento che sarebbe difficile e pericoloso riprodurre ripetutamente con un vero lavoratore.
SafeWorld afferma che la sua tecnologia usa simulazioni 3D generative e modelli reattivi del movimento umano. Nell’annuncio del lancio, l’azienda afferma che le imprese possono eseguire milioni di simulazioni di casi limite, mentre nella descrizione del processo di test dice che un robot può essere sottoposto a migliaia di varianti. Si tratta di affermazioni dell’azienda, non di prove che la sola simulazione possa accertare la sicurezza in ogni ambiente fisico.
Gli investitori sostengono la tesi dei test indipendenti
Shine Capital e a16z Speedrun hanno guidato insieme il round di finanziamento iniziale. Hanno investito anche Box Group, Carnegie Mellon University Endowment, Innovation Endeavors e SV Angel, oltre ad altri fondi e investitori individuali citati nell’annuncio dell’azienda. SafeWorld afferma di aver già avviato progetti pilota con produttori automobilistici, aziende di automazione dei magazzini e produttori di dispositivi medici.
L’azienda è stata cofondata da Ding Zhao, direttore del Safe AI Lab della Carnegie Mellon University, Kyle Wong e Simo Rachidi. Zhao sostiene che i test debbano tenere conto delle persone e delle condizioni che i robot incontrano una volta finite le dimostrazioni. «Non è il robot isolato, durante la dimostrazione, a preoccuparci. È il robot impiegato su larga scala, a contatto con persone che potenzialmente non hanno mai utilizzato un robot prima», ha detto a TechCrunch.
La simulazione deve ancora misurarsi con il luogo di lavoro
Uno dei partner citati da SafeWorld, Gritt Robotics, sta sviluppando robot che aiutano i lavoratori a installare pannelli fotovoltaici in parchi solari su scala industriale. Il suo direttore tecnico, Vishal Dugar, ha detto a TechCrunch che dimostrare la sicurezza di un sistema con metodi matematici formali è difficile e che la sicurezza «deve necessariamente essere verificata empiricamente». La collaborazione offre a SafeWorld un contesto di impiego reale, ma non dimostra di per sé quanto bene i risultati delle simulazioni prevedano il comportamento dei robot in un sito operativo.
Questo divario conta perché i robot operano in luoghi diversi, con procedure, ostacoli e comportamenti umani differenti. Secondo la tesi di SafeWorld a favore dei test indipendenti, i produttori di robot potrebbero trarre beneficio da valutazioni esterne e documentazioni condivise sulla sicurezza, anziché affidarsi soltanto ai test interni. TechCrunch ha però riferito che la startup non aveva ancora deciso se la sua offerta principale sarebbe stata un software utilizzato direttamente dai clienti o un servizio gestito dal team di SafeWorld.
Il round da 12,2 milioni di dollari dà all’azienda margine per sviluppare i propri strumenti di test e portare avanti i progetti pilota. Nell’immediato, il progresso si misurerà dalla capacità degli scenari simulati di aiutare i clienti a prendere decisioni più sicure sull’impiego dei robot, e dalla tenuta di quei risultati quando i robot lavoreranno accanto alle persone.