The Pulse
Le pagine di assistenza di WhatsApp hanno esposto le regole nascoste del suo chatbot di supporto
Le istruzioni nascoste per il chatbot di supporto basato sull’IA di WhatsApp comparivano nel codice sorgente di 80 pagine di assistenza, secondo la società Redact, attiva nel settore della privacy. Le istruzioni comprendevano restrizioni su
AI.info Team · Scritto con l’IA · verificato ·
«Queste sono istruzioni per il nostro chatbot, non direttamente per gli utenti.»
Joshua Breckman, portavoce di WhatsApp, a WIRED
Le istruzioni erano presenti in 80 pagine di assistenza
Le pagine di assistenza di WhatsApp contenevano nel codice sottostante istruzioni nascoste per il chatbot di supporto basato sull’IA dell’azienda, secondo un’analisi pubblicata il 19 ottobre dalla società Redact, attiva nel settore della privacy. Le istruzioni non erano visibili a chi leggeva le pagine, ma erano incluse nel materiale inviato insieme a esse. Redact afferma di aver trovato il testo in 80 delle 545 pagine collegate al centro assistenza di WhatsApp, suddiviso in 102 blocchi distinti.
La scoperta aveva una portata più limitata rispetto alla divulgazione delle istruzioni dell’assistente generalista Meta AI: WhatsApp ha detto a WIRED che le indicazioni erano destinate al suo chatbot di supporto, che gli utenti possono contattare tramite WhatsApp Support. Redact afferma di aver trovato il testo nascosto per la prima volta l’8 ottobre, di aver poi verificato le pagine collegate e di averne salvato delle copie. Secondo l’analisi della società, entro il 18 ottobre le indicazioni erano scomparse da tutte le 80 pagine.
Alcune indicazioni dissuadevano gli utenti dal rivolgersi alle autorità
Un’istruzione compariva in una pagina dedicata all’eliminazione di un account WhatsApp. Nel caso di una persona impossibilitata a eliminare un account perché non aveva più accesso al proprio numero di telefono o dispositivo, al chatbot veniva detto di non consigliare di contattare un’autorità per la protezione dei dati, un ente regolatore o un’autorità di controllo. Gli veniva inoltre detto di non suggerire che WhatsApp potesse eliminare l’account manualmente o che l’utente potesse provare con un altro telefono dotato di un numero attivo.
Un altro gruppo di istruzioni si applicava quando gli utenti menzionavano azioni legali, avvocati, tribunali o controversie giudiziarie. Al chatbot veniva detto di non citare né interpretare i documenti legali di WhatsApp, di non discutere la potenziale responsabilità dell’azienda e di non fare riferimento a leggi sulla privacy, tra cui il GDPR, la LGPD brasiliana o la CCPA californiana, anche se era l’utente a menzionarle direttamente. Le indicazioni gli dicevano invece di indirizzare gli utenti con questioni legali a un professionista legale qualificato.
Meta afferma che a esporre le indicazioni è stato un bug
Il portavoce di WhatsApp Joshua Breckman ha detto a WIRED che le istruzioni comparivano sulle pagine a causa di un bug e che il problema è stato risolto. Ha affermato che servivano ad aiutare il chatbot di supporto a fornire risposte accurate e pertinenti alle persone che scelgono di scrivere a WhatsApp Support con l’IA. Breckman ha anche detto che l’azienda vuole che i suoi chatbot di supporto rispondano alle domande su WhatsApp, anziché fornire consulenza legale.
La distinzione è importante: evitare di fornire consulenza legale non equivale a omettere il nome di un’autorità di controllo o di una legge sulla privacy. Redact ha confrontato le istruzioni nascoste con l’informativa europea sulla privacy di WhatsApp, secondo cui le persone possono presentare un reclamo alla Commissione irlandese per la protezione dei dati o a un’altra autorità competente per la protezione dei dati. Il confronto riguarda ciò che al chatbot veniva detto di dire, non un eventuale cambiamento dei diritti degli utenti.
Che cosa non dimostra il codice esposto
Redact afferma di non poter stabilire se il chatbot di WhatsApp abbia seguito le istruzioni nelle sue risposte, se assistenti di IA esterni abbiano agito in base a esse o per quanto tempo esatto siano state presenti. Le copie delle pagine archiviate dalla società mostrano le istruzioni in una versione del 4 settembre della pagina sull’eliminazione dell’account, ma non in una copia del 12 luglio. WIRED ha inoltre riferito che non era chiaro se i chatbot di terze parti potessero accedere al testo esposto.
La spiegazione di Meta chiarisce perché le istruzioni comparissero nelle pagine, ma non risolve le questioni relative all’accesso o alle risposte del chatbot. I dati raccolti da Redact mostrano che i blocchi nascosti erano stati rimossi dalle pagine di assistenza online entro il 18 ottobre, mentre le pagine stesse erano rimaste disponibili.