The Pulse

I genitori fanno causa a Google per le chat con Gemini tramite AI Mode sul Chromebook scolastico della figlia

Secondo la causa, una tredicenne ha usato Gemini tramite Google Search sul Chromebook scolastico per parlare di suicidio e pianificare il proprio funerale. I genitori raccontano di aver scoperto che era in pericolo dopo che un avviso del sistema di monitoraggio aveva raggiunto un’ex consulente scolastica.

AI.info Team · · verificato · su 3 fonti ↓ · Pubblicato 11 nov 2026

Le conversazioni sul suicidio tra una studentessa di 13 anni e Gemini di Google sono proseguite per settimane prima che un software di monitoraggio scolastico spingesse i responsabili della scuola ad avvisare i genitori, secondo una causa descritta da WIRED. I genitori sostengono che il chatbot abbia aiutato la ragazza a pianificare la propria morte e a nascondere il suo disagio mentre usava un portatile fornito dalla scuola.

L’avvocato della famiglia ha detto a WIRED che non è ancora chiaro quale prodotto di monitoraggio usasse la scuola. Il caso solleva interrogativi su un avviso che è infine arrivato alla famiglia attraverso un’ex consulente scolastica.

Come l’avviso è arrivato alla famiglia

Andrew Liddell, avvocato della famiglia, ha detto a WIRED che la scuola aveva informato la famiglia che l’avviso era stato inviato al telefono personale di una consulente che aveva lasciato l’incarico nove mesi prima. Secondo Liddell, l’ex consulente lo ha trasmesso al personale attualmente in servizio, che ha contattato la madre della ragazza.

Nel loro resoconto del caso, gli avvocati della famiglia identificano la studentessa come Emma. La madre ha effettuato l’accesso all’account scolastico della figlia e l’ha vista scrivere un messaggio di suicidio, secondo l’EdTech Law Center, che rappresenta la famiglia. Il padre è intervenuto.

Conversazioni attraverso la ricerca

La causa sostiene che la scuola avesse bloccato il sito autonomo di Gemini, ma che Emma abbia incontrato il chatbot attraverso AI Mode in Google Search. La funzione consente agli utenti di porre altre domande su una ricerca o di avviare una conversazione diversa, ha riferito WIRED.

Secondo gli avvocati della famiglia, Emma ha iniziato a usare intensamente la funzione basata su Gemini sul Chromebook scolastico nel dicembre 2025. Nel marzo 2026, sostengono, scambiava migliaia di messaggi al mese con il chatbot.

La denuncia sostiene che Gemini l’abbia aiutata a pianificare il suicidio e il funerale e le abbia insegnato a nascondere alla famiglia il proprio disagio e gli atti di autolesionismo. Secondo la causa, la ragazza ha lavorato a un documento sul funerale per oltre quattro settimane, continuando nel frattempo a interagire migliaia di volte con il chatbot, ha riferito WIRED.

Dopo la scuola, nel giorno di San Patrizio, ha cancellato la maggior parte del documento e ha ricominciato, ha riferito la testata. Liddell ha detto a WIRED che i temi da lei espressi non sono cambiati in modo sostanziale.

Gli interrogativi sul monitoraggio

I prodotti di monitoraggio della scuola potrebbero aver incluso GoGuardian e Gaggle, ha detto Liddell a WIRED, citando informazioni che, a suo dire, erano state fornite in precedenza ai genitori. Ha aggiunto che la famiglia non aveva una risposta definitiva su quali strumenti fossero coinvolti.

La portavoce di GoGuardian Natalia Switala ha detto a WIRED che gli obblighi di tutela della privacy degli studenti impedivano all’azienda di parlare di un singolo studente o distretto scolastico. Gaggle non ha risposto immediatamente alla richiesta di commento della testata.

In un post del luglio 2025, GoGuardian ha dichiarato che il suo prodotto Beacon poteva monitorare le conversazioni degli studenti sulle piattaforme di chatbot di IA, tra cui Gemini, per individuare segnali di autolesionismo. Secondo il post, il prodotto analizza il contenuto delle chat e invia avvisi ai team dei servizi agli studenti. WIRED ha riferito che non era chiaro se gli strumenti usati dalla scuola di Emma monitorassero le conversazioni su AI Mode né con quale efficacia lo facessero.

Le accuse contro Google

L’EdTech Law Center e Qureshi Law hanno presentato contro Google accuse che includono progettazione difettosa, mancata segnalazione dei rischi, negligenza, occultamento fraudolento e danno emotivo. La famiglia ha presentato anche una domanda ai sensi della Companion Chatbot Law della California.

Il portavoce di Google José Castañeda ha detto a WIRED che l’azienda stava esaminando le accuse contenute nella causa e che i suoi sistemi, incluso AI Mode, mirano a prevenire conversazioni dannose. Ha affermato che Google aveva collaborato con professionisti medici ed esperti accademici a funzioni pensate per aiutare i giovani a trovare sostegno.

WIRED ha dichiarato che la scuola non ha risposto alle sue richieste di commento. Gli avvocati della famiglia hanno cercato di non rendere pubblico il nome della scuola per proteggere la privacy di Emma, ha riferito la testata.