The Pulse
OpenAI propone all’Australia un piano in sei punti per la sicurezza degli adolescenti
OpenAI chiede all’Australia di adottare norme flessibili, basate sul rischio, per la sicurezza degli adolescenti nell’uso dell’IA, attraverso un piano in sei pilastri che riguarda la verifica dell’età, le risposte dannose, la gestione delle
AI.info Team ·
OpenAI chiede all’Australia di adottare norme flessibili, basate sul rischio, per la sicurezza degli adolescenti nell’uso dell’IA, mentre le autorità di regolamentazione australiane sollecitano le aziende tecnologiche ad assumersi la responsabilità di prevenire i danni. La posizione dell’azienda arriva mentre il governo elabora un quadro normativo denominato Digital Duty of Care, che imporrebbe ai servizi online di individuare e affrontare i rischi prima che raggiungano gli utenti.
OpenAI ha pubblicato il suo Australian Youth Safety Blueprint il 18 settembre, presentandolo come un contributo al dibattito sulle politiche per proteggere i giovani senza privarli degli strumenti che usano per apprendere, creare e sviluppare competenze. Il documento propone sei pilastri, tra cui la verifica dell’età, le restrizioni sulle risposte dannose, le procedure di gestione delle crisi e i controlli parentali.
Secondo l’azienda, la responsabilità non dovrebbe ricadere principalmente sugli adolescenti o sulle loro famiglie.
«Le aziende devono continuare a integrare le protezioni nei propri prodotti fin dall’inizio».
OpenAI afferma che genitori e tutori dovrebbero disporre di controlli accessibili e informazioni chiare.
OpenAI vuole norme capaci di adattarsi ai servizi di IA
OpenAI sostiene l’introduzione in Australia di un quadro legislativo che imponga alle aziende di individuare, valutare e ridurre i rischi gravi per gli adolescenti. A suo avviso, i legislatori dovrebbero concentrarsi sui risultati in termini di sicurezza, anziché prescrivere misure tecniche fisse che potrebbero diventare obsolete con l’evoluzione dei prodotti.
La proposta si affianca alle riforme del Digital Duty of Care previste in Australia. Secondo il commissario australiano per la sicurezza online, l’eSafety Commissioner, questo approccio pone a carico delle piattaforme digitali il compito di proteggere attivamente gli australiani e prevenire i danni online. Il piano di OpenAI ne condivide l’obiettivo, ma chiede obblighi calibrati sulle funzioni, sugli utenti e sui rischi di ciascun servizio, comprese le caratteristiche specifiche dell’IA generativa.
L’Australia disciplina già alcuni ambiti dell’ecosistema online attraverso codici e standard di eSafety. Secondo il commissario, i codici registrati relativi ai materiali soggetti a restrizioni d’età si applicano anche a servizi di IA generativa e chatbot di compagnia basati sull’IA, con restrizioni riguardanti materiale sessualmente esplicito, suicidio, autolesionismo e altri contenuti dannosi. Il documento di OpenAI sostiene che qualsiasi nuovo quadro normativo dovrebbe basarsi su queste misure, anziché creare obblighi sovrapposti.
Le sei misure del piano
Il primo pilastro chiede un’adozione responsabile dell’IA nell’istruzione. Secondo OpenAI, gli adolescenti dovrebbero imparare a usare l’IA in modo critico e trasparente, con gli insegnanti a dettare i tempi nelle scuole. L’azienda sostiene inoltre che l’alfabetizzazione all’IA dovrebbe essere considerata una misura di sicurezza, perché gli studenti devono comprenderne sia le capacità sia i limiti.
Il secondo pilastro riguarda la verifica dell’età nel rispetto della privacy. OpenAI raccomanda una stima dell’età basata sul rischio, che distingua gli utenti sotto i 18 anni dagli adulti riducendo al minimo la raccolta di dati sensibili. Secondo il piano, i sistemi operativi e gli app store potrebbero contribuire ad accertare l’età, ove possibile.
OpenAI afferma che il suo servizio in Australia usa lo stesso tipo di sistema di previsione dell’età impiegato nei suoi sistemi globali. Quando l’azienda non riesce a stimare l’età di un utente con sufficiente certezza, ChatGPT applica per impostazione predefinita un’esperienza più sicura, pensata per i minori di 18 anni. Gli utenti inseriti per errore in questa categoria possono confermare la propria età tramite Persona, un servizio di verifica esterno; OpenAI afferma di non vedere i selfie o i documenti d’identità inviati, mentre Persona elimina i dati di verifica entro sette giorni.
Il terzo pilastro chiede politiche di sicurezza per i minori di 18 anni che affrontino rischi gravi come l’autolesionismo, lo sfruttamento, l’adescamento, i contenuti di sfruttamento sessuale e altre interazioni ad alto rischio. I fornitori dovrebbero testare le misure di protezione prima di adottarle, monitorarle dopo il lancio e pubblicare descrizioni in linguaggio semplice delle protezioni e degli strumenti parentali che offrono.
OpenAI punta a contrastare la dipendenza emotiva e le risposte dannose
Il quarto pilastro riguarda i comportamenti manipolatori o ingannevoli dell’IA. Secondo OpenAI, i sistemi non dovrebbero incoraggiare un’eccessiva dipendenza emotiva, un uso compulsivo o la tendenza a tenere segrete le interazioni a genitori e adulti di fiducia. Dovrebbero inoltre evitare di presentarsi come esseri coscienti, partner sentimentali o autorità umane.
Il piano afferma che i prodotti dovrebbero indirizzare gli adolescenti verso forme di sostegno al di fuori della rete quando rilevano segnali di disagio e chiarire se l’utente sta interagendo con una macchina o con una persona. Questo approccio considera la dipendenza emotiva un rischio legato alla progettazione del prodotto, non soltanto una questione di moderazione dei contenuti.
Il quinto pilastro chiede procedure documentate di gestione delle crisi, basate sulla ricerca e sul contributo di esperti esterni. Le misure proposte comprendono l’avviso ai genitori i cui account sono collegati quando un adolescente manifesta intenzioni suicide, l’indirizzamento degli utenti verso servizi australiani come Triple Zero, Lifeline, Kids Helpline e 13YARN, il sostegno alle organizzazioni specializzate e l’incoraggiamento a fare pause durante le sessioni lunghe.
Il sesto pilastro riguarda i controlli parentali. Secondo OpenAI, i genitori dovrebbero poter collegare il proprio account a quello di un adolescente, gestire le impostazioni relative alla memoria, alla cronologia delle chat e alla posizione, ricevere avvisi associati a possibili comportamenti autolesionistici, impostare orari di pausa o di studio e ricevere una notifica quando un adolescente modifica un’impostazione di sicurezza o privacy precedentemente attivata.
ChatGPT for Teens è arrivato in Australia ad agosto
OpenAI afferma che il piano per le politiche riflette le misure di protezione già in fase di introduzione nei suoi prodotti. Ad agosto, l’azienda ha iniziato a distribuire ChatGPT for Teens in Australia come esperienza predefinita per gli utenti identificati come ragazzi dai 13 ai 17 anni. Il prodotto si basa sui controlli parentali, sui principi di comportamento per i minori di 18 anni e sulla verifica dell’età, con ulteriori misure di protezione destinate agli utenti più giovani.
Il piano sostiene che quasi nove adolescenti su dieci tra quelli che usano ChatGPT vi ricorrono nel corso di una settimana per apprendere, cercare informazioni, sviluppare competenze o essere più produttivi. OpenAI usa questa cifra per sostenere che i servizi di IA non dovrebbero essere trattati come se fossero identici alle piattaforme social progettate principalmente per la fruizione passiva.
Questa distinzione sarà importante quando l’Australia deciderà come applicare ai prodotti di IA le proprie norme sulla sicurezza online. I codici già in vigore nel Paese affrontano determinati rischi legati ai chatbot, mentre il Digital Duty of Care proposto potrebbe imporre ai fornitori obblighi più ampi per prevenire i danni attraverso la progettazione dei prodotti.
Valutazioni indipendenti per verificare le affermazioni
La proposta di OpenAI chiede valutazioni indipendenti dell’efficacia con cui le aziende attuano le misure di protezione per gli adolescenti e riducono i rischi individuati. I fornitori pubblicherebbero sintesi di tali valutazioni in linguaggio semplice, omettendo i dettagli che potrebbero aiutare gli utenti ad aggirare le protezioni.
La misura offrirebbe alle autorità di regolamentazione, ai genitori e ai ricercatori un modo per giudicare se i controlli dell’età, le procedure di gestione delle crisi e i controlli parentali funzionano nella pratica, anziché affidarsi soltanto alle descrizioni che le aziende forniscono dei propri sistemi. Secondo OpenAI, standard comuni dovrebbero permettere verifiche comparabili tra diverse giurisdizioni.
Il prossimo passo immediato riguarda il processo di definizione delle politiche in Australia. OpenAI afferma di essere in consultazione con il governo sull’approccio del Digital Duty of Care e auspica che il quadro normativo definitivo preservi l’accesso agli strumenti di IA utili, imponendo al tempo stesso responsabilità chiare ai fornitori. Il suo piano in sei punti mette nero su bianco questo equilibrio: accesso per l’istruzione e la creatività, accompagnato da protezioni basate sull’età e dalla responsabilità delle aziende.