The Pulse
La Cina prepara norme sui servizi di IA usati dai minori
La Cina ha pubblicato una bozza di regolamento sui servizi di intelligenza artificiale, le piattaforme social, i giochi e i dispositivi intelligenti utilizzati dai minori. La proposta limiterebbe i compagni virtuali, i social network tra sc
AI.info Team ·
L’autorità cinese di regolamentazione di Internet ha proposto norme di ampia portata che limiterebbero il modo in cui l’intelligenza artificiale e altri servizi online interagiscono con i minori, vietando tra l’altro i familiari virtuali e i compagni virtuali e imponendo impostazioni di protezione dei minori per alcuni prodotti di IA.
Il 18 settembre, la Cyberspace Administration of China ha pubblicato la bozza del Regolamento sulla tutela dei minori per un uso sicuro e sano di Internet. La proposta è aperta ai commenti del pubblico fino al 17 ottobre e non è ancora entrata in vigore. L’avviso completo è disponibile sul sito della Cyberspace Administration of China.
I servizi di IA dovrebbero prevedere una modalità per minori
La bozza si applica ai servizi online offerti ai minori in Cina, ai produttori di dispositivi intelligenti e alle piattaforme di distribuzione delle app. Include esplicitamente i «servizi di intelligenza artificiale che possono influire sulle capacità cognitive dei minori» tra quelli da erogare tramite una modalità per minori agli utenti sotto i 16 anni.
La proposta non definisce quella categoria di IA in termini tecnici. La sua formulazione comprenderebbe i servizi in grado di influenzare il modo in cui i bambini comprendono le persone, gli eventi o sé stessi, lasciando al contempo alle autorità di regolamentazione la possibilità di stabilire in seguito norme più dettagliate. La bozza impone inoltre ai fornitori di servizi online di valutare i potenziali effetti dei propri servizi sui minori prima di definirne gli utenti destinatari e le modalità di erogazione.
Divieto per i compagni virtuali e i social network tra sconosciuti
In base alle norme proposte, i fornitori non potrebbero offrire ai minori servizi di social networking tra sconosciuti, fatta eccezione per le persone di almeno 16 anni che si sostengono principalmente con il proprio reddito da lavoro. La bozza vieta inoltre ai minori i familiari virtuali, i compagni virtuali e altri servizi che simulano relazioni intime.
Sarebbero vietati anche i servizi che inducono dipendenza o che potrebbero nuocere gravemente alla salute fisica o mentale di un minore. I fornitori non potrebbero offrire agli utenti sotto i 16 anni la possibilità di pubblicare dirette streaming. Queste restrizioni si affiancherebbero alle norme già in vigore sui giochi online e sugli altri servizi rivolti ai minori.
La bozza imporrebbe ai fornitori di identificare gli utenti minorenni ricorrendo a una combinazione di metodi, tra cui documenti d’identità, sistemi pubblici di identità online, una verifica facciale una tantum che non conservi i dati del volto e il riconoscimento di caratteristiche comportamentali. I fornitori dovrebbero adottare misure per proteggere le informazioni personali raccolte attraverso questi controlli.
Le piattaforme rischiano multe salate
La proposta attribuirebbe la responsabilità diretta alle piattaforme online, ai produttori di dispositivi e agli app store. I fornitori di servizi online dovrebbero predisporre sistemi per la revisione degli algoritmi, la valutazione dell’etica tecnologica, la gestione dei contenuti, la sicurezza delle reti e la sicurezza dei dati. Sarebbe inoltre vietato progettare modelli algoritmici che incoraggino la dipendenza emotiva, l’uso compulsivo o spese eccessive da parte dei minori.
Se un fornitore individuasse un minore in una situazione estrema che comporta autolesionismo o suicidio, dovrebbe intervenire e contattare tempestivamente il tutore o il contatto di emergenza dell’utente. Nella modalità per minori, i servizi non potrebbero mostrare informazioni dannose o potenzialmente dannose per la salute fisica o mentale di un minore.
I produttori di dispositivi intelligenti dovrebbero supportare modalità per minori collegate, l’attivazione con un solo passaggio, procedure di uscita verificate, funzioni anti-elusione e controlli sui periodi e sulla durata di utilizzo, nonché sulle funzioni e sui contenuti. Gli app store dovrebbero valutare l’adeguatezza delle app rispetto all’età, sottoporre a controlli più rigorosi quelle che chiedono di essere distribuite nella modalità per minori e limitare il download o l’installazione quando un’app non è adatta all’età dell’utente.
La bozza istituisce anche un sistema di registrazione. I fornitori e i produttori di dispositivi che offrono modalità per minori dovrebbero trasmettere alle autorità provinciali per il cyberspazio informazioni sulle relative impostazioni e funzioni. Le piattaforme con un numero molto elevato di utenti minorenni o un’influenza significativa sui minori dovrebbero presentare relazioni aggiuntive tramite le autorità provinciali all’autorità nazionale di regolamentazione, verificando annualmente le informazioni depositate.
Le sanzioni proposte arrivano a 10 volte i proventi illeciti
La violazione di diversi obblighi fondamentali potrebbe comportare ammonimenti, la confisca dei proventi illeciti e multe da 100.000 yuan a 1 milione di yuan in assenza di proventi illeciti o se questi sono inferiori a 1 milione di yuan. Se i proventi illeciti superassero 1 milione di yuan, la multa proposta sarebbe compresa tra una e dieci volte tale importo.
I dirigenti e le altre persone direttamente responsabili potrebbero ricevere multe personali fino a 100.000 yuan. Le violazioni gravi o ripetute potrebbero comportare la sospensione dell’attività, la chiusura di un sito web o di un’app oppure la revoca della relativa licenza commerciale.
La violazione degli obblighi riguardanti i dispositivi e la registrazione potrebbe comportare per l’organizzazione multe da 100.000 yuan a 1 milione di yuan. I fornitori che non mettessero a disposizione un canale di ricorso per gli utenti interessati dalla modalità per minori potrebbero ricevere multe da 50.000 yuan a 500.000 yuan.
La bozza cinese estende le norme esistenti sulla sicurezza dei minori
Il regolamento proposto non farebbe affidamento soltanto sulle piattaforme. Ci si aspetterebbe che le scuole insegnino la sicurezza online e gestiscano i dispositivi intelligenti portati dagli studenti. Gli insegnanti riceverebbero indicazioni su come individuare i segnali di dipendenza da Internet negli studenti e intervenire, mentre i tutori avrebbero la responsabilità di aiutare i bambini ad attivare e usare la modalità per minori.
L’autorità di regolamentazione afferma che la bozza si basa sulla Legge cinese sulla tutela dei minori, sulla Legge sulla sicurezza informatica, sulla Legge sulla protezione delle informazioni personali e sul Regolamento sulla protezione dei minori su Internet. Lascia inoltre all’autorità nazionale per il cyberspazio la possibilità di modificare le categorie di servizi soggetti a restrizioni man mano che cambiano i prodotti online.
La data di entrata in vigore non è indicata nel testo, perché si tratta ancora di una bozza sottoposta a consultazione. Per ora, il prossimo passaggio formale è la scadenza del 17 ottobre per l’invio dei commenti del pubblico.