The Pulse
Un’indagine sulla sicurezza del giocattolo Eiliko rivela conversazioni e comandi dei robot esposti
Il ricercatore di sicurezza Sammy Azdoufal afferma che Eiliko di Energize Lab e altri robot dell’azienda hanno lasciato esposti conversazioni private, profili di minori e comandi per modificare le risposte dei robot. Nella sua indagine del
AI.info Team · Scritto con l’IA ·
Energize Lab presenta Eiliko come un amichevole robot da compagnia; secondo il ricercatore di sicurezza Sammy Azdoufal, i sistemi connessi dell’azienda hanno lasciato esposti le conversazioni dei bambini e i comandi dei robot. In un’indagine datata 13 ottobre, Azdoufal ha contato più di 9,1 milioni di conversazioni in chiaro relative ai prodotti dell’azienda e rilevato che 32 delle 40 problematiche verificabili da remoto erano ancora irrisolte. Il rapporto esamina Eiliko insieme ad altri robot di Energize Lab, tra cui Eilik, e afferma che i rischi vanno oltre un singolo modello di giocattolo.
Milioni di conversazioni nell’indagine
Secondo il rapporto pubblico di Azdoufal, i robot inviano le conversazioni vocali al servizio cloud di Energize Lab, dove vengono conservate le trascrizioni. Il conteggio del 13 ottobre riporta 9.124.055 conversazioni in chiaro e 61.510 robot presenti nel database delle conversazioni. Il rapporto stima che i dispositivi attivi siano circa 62.000-68.000; si tratta di misure distinte, non di un conteggio preciso dei nuclei familiari coinvolti.
Un’inchiesta del 15 ottobre di The Verge ha descritto un’istantanea diversa del database, riferendo l’accesso a 13 milioni di conversazioni e la presenza di 68.000 robot. I due totali pubblicati per le conversazioni non coincidono e le informazioni disponibili non spiegano la differenza. Entrambi i resoconti descrivono l’accesso a scambi intimi, compresi messaggi sulla morte e su preoccupazioni familiari.
Secondo l’indagine, ogni notte un processo estrae dettagli personali dalle conversazioni per creare profili dei nuclei familiari. La tabella del 13 ottobre conta almeno 32.228 profili di minori; il rapporto afferma che possono includere nomi, età, rapporti familiari e preferenze. The Verge ha inoltre riscontrato fotografie e brevi registrazioni audio conservate a indirizzi web pubblici. L’informativa sulla privacy di Energize Lab afferma che le registrazioni vengono crittografate per l’elaborazione e poi eliminate, una politica che i file audio segnalati sembrano contraddire.
Le risposte di un giocattolo potevano essere modificate da remoto
«Ogni frase di quella risposta è falsa e l’azienda ha scritto il prompt che la genera», scrive Azdoufal nel rapporto, riferendosi alla rassicurazione del robot secondo cui la conversazione di un bambino sarebbe rimasta privata. Il rapporto afferma che sistemi amministrativi scarsamente protetti e credenziali esposte potrebbero consentire a un aggressore di leggere le conversazioni e modificare i profili che orientano le risposte dei robot.
Durante test condotti sui propri dispositivi, Azdoufal afferma di aver modificato il profilo memorizzato di un robot, che ha così fornito un nome falso, inventato una tragedia familiare e ripetuto una falsa affermazione sulla forma della Terra. The Verge descrive separatamente una dimostrazione in cui un Eiliko modificato da remoto ha prodotto frasi sessualmente esplicite. Sono risultati di test riportati dalle fonti, non prove che un soggetto terzo abbia modificato le risposte dei robot appartenenti ai clienti.
L’indagine descrive anche debolezze nei sistemi cloud e di aggiornamento dell’azienda, tra cui pacchetti firmware privi di firma inviati tramite connessioni non crittografate. Azdoufal afferma di aver verificato alcune parti di un possibile percorso verso una compromissione più ampia, ma precisa di non sostenere che l’intera sequenza sia stata usata per installare firmware modificato sui dispositivi dei clienti. La distinzione è importante: il rapporto documenta gravi vie di accesso esposte, non una confermata compromissione del firmware dell’intera flotta.
Energize Lab non ha risposto ai rilievi
Secondo The Verge, la testata e Azdoufal hanno contattato ripetutamente Energize Lab nell’arco di più di un mese. La responsabile delle vendite all’estero Lana Lv ha risposto: «Ho inoltrato i vostri messagi [sic] al team tecnico, se possibile contatteranno il vostro team», ma la testata afferma che nessuno dell’azienda si è poi fatto vivo per rispondere alle sue domande. La risposta dell’assistenza di Energize Lab non ha fornito spiegazioni sostanziali sui problemi di sicurezza segnalati.
Azdoufal afferma che lui e Tod Beardsley stanno preparando nove segnalazioni di vulnerabilità per il sistema CVE; una pagina pubblica dedicata alla divulgazione descrive le vulnerabilità riscontrate in Energize Lab. Secondo l’indagine, all’13 ottobre erano state risolte otto delle 40 problematiche verificabili da remoto, mentre 32 erano ancora irrisolte. Per le famiglie, la contraddizione immediata è evidente: il robot dice ai bambini che le loro conversazioni sono private, mentre l’ultimo conteggio pubblicato dal ricercatore registra ancora milioni di trascrizioni conservate in chiaro.