The Pulse
Meta estende a tutto il mondo gli avvisi sul rischio di autolesionismo degli adolescenti nelle chat con l’IA
Meta sta introducendo in tutto il mondo avvisi per i genitori quando le conversazioni degli adolescenti sotto supervisione con Meta AI su Instagram, Facebook o Messenger suggeriscono un possibile rischio di suicidio o autolesionismo. Gli av
AI.info Team · Scritto con l’IA · verificato ·
Meta sta estendendo ai genitori di tutto il mondo gli avvisi su un possibile rischio di autolesionismo degli adolescenti, mentre il suo stesso piano di sicurezza riconosce una preoccupazione contrapposta: un avviso errato può allarmare le famiglie e il monitoraggio delle conversazioni private di un adolescente con l’IA solleva interrogativi sulla privacy. L’azienda afferma che sta introducendo notifiche per i casi in cui le chat degli adolescenti sotto supervisione con Meta AI su Instagram, Facebook o Messenger suggeriscano un rischio di suicidio o autolesionismo. L’aggiornamento di Meta del 29 ottobre estende inoltre il sistema alle ricerche su Facebook, oltre agli avvisi sulle ricerche su Instagram che aveva già reso disponibili a livello globale.
Gli avvisi sono destinati ai genitori che utilizzano le funzioni di supervisione di Meta, non a tutti i genitori o a tutti gli account degli adolescenti. Meta afferma che avviserà i genitori che esercitano la supervisione in tutto il mondo quando un adolescente cerca ripetutamente termini legati al suicidio o all’autolesionismo su Facebook o Instagram in un breve arco di tempo, oppure quando una conversazione con Meta AI su una delle tre app suggerisce un possibile rischio. Nel suo annuncio, l’azienda non indica una soglia specifica per le ricerche.
Da quattro paesi alla diffusione globale
Meta ha annunciato per la prima volta gli avvisi sulle ricerche su Instagram il 26 febbraio, spiegando che sarebbero stati introdotti negli Stati Uniti, nel Regno Unito, in Australia e in Canada prima di essere estesi ad altre regioni. Il 13 agosto l’azienda ha aggiornato l’annuncio, comunicando che gli avvisi sulle ricerche erano disponibili per i genitori che esercitano la supervisione in tutto il mondo. Un annuncio separato del 16 luglio ha introdotto gli avvisi per le chat con Meta AI, inizialmente per le famiglie che utilizzano la supervisione negli stessi quattro paesi, con una diffusione globale prevista entro la fine dell’anno.
L’aggiornamento del 29 ottobre estende la diffusione di questi avvisi relativi all’IA ai genitori di tutto il mondo e aggiunge le chat di Facebook e Messenger ai servizi coperti. Meta afferma inoltre che sta estendendo gli avvisi sulle ricerche a Facebook. L’azienda descrive l’ampliamento come una distribuzione in corso, senza affermare che tutte le famiglie aventi diritto abbiano già ricevuto la funzione.
Meta afferma che le chat con l’IA segnalate vengono esaminate da persone
Meta afferma di aver creato un sistema di IA dedicato per individuare le conversazioni che potrebbero richiedere un avviso, utilizzando segnali sviluppati con esperti. Nell’annuncio di luglio, l’azienda aveva dichiarato che ogni chat segnalata dal sistema sarebbe stata esaminata manualmente prima di avvisare un genitore. Aveva inoltre affermato che, in caso di ambiguità sulle intenzioni di un adolescente, avrebbe adottato un approccio prudente, riconoscendo al tempo stesso che questo avrebbe potuto portare a inviare avvisi anche in assenza di un reale motivo di preoccupazione.
L’avviso di Meta non è descritto come una trascrizione né come una notifica che rivela i termini esatti della ricerca. L’azienda afferma che l’obiettivo è informare i genitori che il figlio adolescente potrebbe aver bisogno di sostegno e fornire risorse per aiutarli ad affrontare la conversazione. Secondo l’annuncio, Meta AI indirizza già alle linee telefoniche di assistenza nelle situazioni di crisi gli adolescenti che lasciano intendere di poter pensare al suicidio o all’autolesionismo e li incoraggia a contattare un genitore o un altro adulto di fiducia.
La questione della privacy accompagna la diffusione
Larry Magid, amministratore delegato e cofondatore di ConnectSafely, ha affrontato questa tensione nell’annuncio di Meta di luglio: «Sebbene ritenga che gli adolescenti abbiano diritto alla privacy, credo anche che i genitori debbano essere informati se il loro figlio adolescente potrebbe rischiare di farsi del male». Si è detto favorevole a informare i genitori dopo un attento esame della conversazione, presentando l’avviso come un intervento in caso di possibile rischio, piuttosto che come un accesso abituale alla cronologia delle chat di un adolescente.
Questo equilibrio dipende da come il sistema di rilevamento interpreta i messaggi e dalla frequenza con cui invia avvisi che non corrispondono a un pericolo reale. Meta afferma che le soglie e il processo di revisione sono pensati per limitare le notifiche non necessarie, ma l’annuncio non rende pubblico il numero di falsi avvisi né spiega i criteri precisi utilizzati per segnalare le conversazioni con l’IA. Il cambiamento concreto del 29 ottobre riguarda la portata del sistema: Meta afferma che i genitori che esercitano la supervisione in tutto il mondo possono ora ricevere avvisi legati a un sospetto rischio nelle chat con Meta AI su Instagram, Facebook e Messenger.