The Pulse
La massima corte cinese fissa regole nazionali per le controversie sull’IA
La Corte suprema del popolo cinese ha pubblicato un parere in 24 articoli che fornisce ai tribunali di tutto il Paese indicazioni sulle controversie riguardanti deepfake, clonazione della voce, allucinazioni dell’IA, discriminazione dei con
AI.info Team ·
La Corte suprema del popolo cinese ha pubblicato le prime linee guida giudiziarie nazionali del Paese dedicate alle controversie sull’intelligenza artificiale: un documento in 24 articoli che indica ai tribunali come trattare deepfake, voci clonate, disinformazione generata dall’IA, discriminazione algoritmica dei prezzi, addestramento dei modelli, rivendicazioni sul diritto d’autore e incidenti legati alla guida autonoma.
Pubblicato il 7 settembre, il parere non istituisce una legge specifica sull’IA. Indica invece ai tribunali di applicare alle controversie che riguardano l’IA il Codice civile, la Legge sulla cybersicurezza, la Legge sulla sicurezza dei dati, la Legge sul diritto d’autore, la Legge contro la concorrenza sleale, la Legge sulla tutela dei diritti dei consumatori, la Legge sulla protezione delle informazioni personali e la Legge di procedura civile vigenti in Cina.
Il documento offre ai tribunali un quadro comune per attribuire le responsabilità a sviluppatori, fornitori di servizi e utenti. Stabilisce inoltre regole in materia di prove, contenziosi infondati e condotte criminali che coinvolgono l’IA. Per le aziende che sviluppano o utilizzano modelli, le indicazioni trasformano una serie di controversie giudiziarie frammentarie in un insieme nazionale di istruzioni per i tribunali.
Ventiquattro articoli su deepfake, dati e assistenza alla guida
Il parere è suddiviso in cinque sezioni, dedicate ai principi generali, alle controversie per violazione di diritti, ai casi di proprietà intellettuale, alle procedure giudiziarie e ai meccanismi di gestione dei tribunali. La corte afferma che l’obiettivo è bilanciare l’innovazione con la sicurezza, garantendo al contempo che le persone mantengano la tutela legale quando i sistemi di IA incidono sulla loro identità, privacy, reputazione, proprietà o sicurezza fisica.
Ai tribunali viene chiesto di partire da tre principi: mettere le persone al primo posto, sostenere l’innovazione e mantenere una soglia di sicurezza. Il documento afferma che la responsabilità dovrebbe riflettere il tipo di sistema di IA coinvolto, il danno causato e la capacità di ciascuna parte di controllare il rischio pertinente. Distingue tra modelli general-purpose e specializzati, nonché tra sistemi open source e closed source.
La massima corte cinese adotta inoltre la responsabilità per colpa come criterio predefinito per le violazioni civili legate all’IA, quando la legge vigente non richiede specificamente la responsabilità oggettiva o la presunzione di colpa. Questa disposizione è importante perché respinge una regola generalizzata che renderebbe automaticamente ogni sviluppatore di modelli responsabile di ogni contenuto dannoso prodotto.
Allo stesso tempo, le indicazioni non trattano l’IA come una scatola nera dal punto di vista legale. I tribunali possono esaminare separatamente la condotta di sviluppatori, fornitori e utenti, comprese le precauzioni adottate, le modalità di progettazione del sistema e la misura in cui una parte avrebbe potuto prevenire o ridurre il danno.
Per volti e voci generati dall’IA serve il consenso
Il parere affronta direttamente il crescente uso dell’IA per riprodurre l’aspetto e la voce di una persona. Secondo la corte, usare il nome o l’immagine di qualcuno senza consenso per creare e pubblicare un’immagine digitale virtuale riconoscibile può violare i diritti della personalità. Lo stesso vale quando la voce di una persona viene utilizzata come materiale di addestramento per imitarne il timbro, l’intonazione e lo stile di eloquio in una voce sintetica riconoscibile.
Immagini e voci manipolate digitalmente possono comportare responsabilità anche per danni alla reputazione. Se un operatore controlla un’immagine virtuale o una voce sintetica per diffondere affermazioni false o ledere la considerazione sociale di un’altra persona, la condotta può costituire una violazione del diritto alla reputazione.
Le regole riguardano anche i casi talvolta descritti come «resurrezione» tramite IA, in cui la tecnologia viene usata per ricreare l’aspetto o la voce di una persona deceduta. Il quadro della corte si concentra sull’identità riconoscibile e sui diritti lesi dall’uso, anziché considerare innocui i contenuti sintetici solo perché prodotti da un software.
In Cina i tribunali si sono già occupati di controversie simili. Nel 2024 il Tribunale internet di Pechino ha stabilito che l’uso, senza consenso, di audiolibri registrati da una doppiatrice per creare un prodotto commerciale di sintesi vocale da testo violava i suoi diritti sulla voce. Le nuove indicazioni nazionali offrono ai tribunali di grado inferiore un insieme più ampio di principi per trattare casi di questo tipo.
I dati personali pubblici si possono usare, ma non senza limiti
Il parere della corte cerca di tracciare una linea di demarcazione tra l’addestramento dell’IA e la protezione delle informazioni personali. Afferma che il trattamento di informazioni personali rese pubbliche legittimamente per addestrare modelli, entro limiti ragionevoli, in genere non sarà considerato una violazione se la persona interessata non ha rifiutato espressamente tale uso.
Questa facoltà non è illimitata. Quando il trattamento ha un impatto significativo sui diritti o sugli interessi di una persona, il parere afferma che è comunque necessario ottenere il consenso previsto dalla legge. Questo approccio lascia agli sviluppatori margine per usare alcune informazioni disponibili pubblicamente, mantenendo al contempo una tutela aggiuntiva per gli usi ad alto impatto.
Le indicazioni prendono di mira anche il «doxxing», compreso l’uso dell’IA per raccogliere e analizzare dettagli disponibili pubblicamente, come numeri di telefono, account online e profili sui social media, allo scopo di ottenere, esporre o diffondere informazioni private. La corte considera l’uso di frammenti di informazioni pubbliche per identificare e rivelare dati privati una possibile violazione della privacy.
Anche le controversie con i consumatori ricevono particolare attenzione. Le aziende che usano algoritmi per imporre differenze irragionevoli nei prezzi o in altre condizioni delle transazioni possono essere ritenute responsabili quando i consumatori subiscono un danno. Le regole affrontano anche l’impersonificazione generata dall’IA nelle attività di marketing, comprese false sponsorizzazioni da parte di celebrità. Quando tale condotta costituisce una frode, i tribunali possono accogliere le richieste di risarcimento danni punitivi.
I fornitori di modelli possono avere obblighi dopo una segnalazione
Il parere consente ai tribunali di applicare ai servizi di IA generativa il quadro normativo cinese vigente in materia di segnalazione e rimozione dei contenuti. Se un contenuto generato dall’IA viola la reputazione, la privacy o altri diritti della personalità di un’altra persona, un fornitore di servizi che riceve una segnalazione e non adotta le misure necessarie, come impedire che il materiale venga generato nuovamente, può essere ritenuto responsabile del danno che ne deriva.
La disposizione offre ai titolari dei diritti una via per contestare contenuti dannosi senza dover prima dimostrare che il fornitore di servizi abbia creato il prompt originale o intendesse ottenere quel risultato. Spinge inoltre i fornitori a predisporre procedure per ricevere reclami e rispondere alle violazioni di cui sono a conoscenza.
Le controversie sulla proprietà intellettuale vengono affrontate caso per caso. Nel decidere se sviluppatori, fornitori o utenti debbano essere ritenuti responsabili di una violazione del diritto d’autore, i tribunali sono chiamati a considerare il tipo di servizio di IA, il settore coinvolto, la provenienza dei dati di addestramento, il contributo di ciascuna parte, le misure di protezione adottate e i profitti ottenuti.
Il software open source riceve un trattamento distinto. I tribunali dovrebbero considerare la licenza open source, le restrizioni d’uso, le misure di sicurezza e conformità e la portata delle informazioni sui rischi divulgate. In base alle circostanze descritte nel parere, una parte che fornisce gratuitamente moduli di codice, ne spiega chiaramente le funzioni e divulga i rischi per la sicurezza di cui è a conoscenza può essere giudicata non responsabile della violazione.
Per le prove sull’IA arrivano regole specifiche in tribunale
Una delle sezioni più pratiche del documento riguarda le prove. I casi legati all’IA spesso comportano fatti tecnici che una delle parti non può verificare autonomamente; per questo il parere chiede ai tribunali di rafforzare l’assistenza alle parti in causa e di ampliare le indagini giudiziarie quando queste non riescono a procurarsi da sole le prove necessarie.
I giudici possono avvalersi di assistenti esperti, investigatori tecnici, periti e giurati con competenze pertinenti. Quando una parte detiene prove importanti e si rifiuta, senza un valido motivo, di produrle, il tribunale può accogliere la tesi della controparte su ciò che quelle prove dimostrerebbero.
Il parere stabilisce inoltre criteri specifici per l’esame di forme comuni di prova digitale. Nei rapporti basati sui big data, i tribunali dovrebbero esaminare la provenienza dei dati grezzi, le regole di pulizia dei dati e i metodi di analisi. Per le prove basate su blockchain, i giudici dovrebbero verificare se i dati fossero autentici prima del loro caricamento e se la piattaforma tecnica fosse affidabile.
I materiali generati dall’IA presentati come prove richiedono un esame ulteriore. I tribunali possono considerare la formulazione del prompt, il suo effetto sul risultato, la somiglianza tra il contenuto generato e l’opera in questione, la coerenza dei test ripetuti, i dati di addestramento del modello, la progettazione dell’algoritmo e i sistemi di filtraggio dei contenuti.
La corte avverte che le parti in causa non possono usare l’IA per fabbricare contratti, fatture, file audio o video, presentare richieste infondate o ostacolare il procedimento. Chi usa l’IA per preparare atti legali, rapporti di ricerca giurisprudenziale o altri materiali destinati al tribunale deve verificare che le leggi, le interpretazioni giudiziarie e i casi citati siano reali e corretti, dichiarare di aver usato l’IA e assumersi la responsabilità legale dei materiali presentati.
I tribunali cinesi lasciano aperte alcune questioni sull’IA
Le indicazioni riguardano anche la condotta criminale. Ai tribunali viene chiesto di punire le frodi, gli insulti, la diffamazione, il danno alla reputazione commerciale, l’acquisizione illegale di dati informatici, le violazioni relative alle informazioni personali e la produzione o distribuzione di materiale sessuale illegale assistite dall’IA, quando tali atti costituiscono reati.
Il documento si occupa anche dei conducenti che attivano i sistemi di assistenza alla guida e poi eludono i sistemi di monitoraggio della sicurezza usando dispositivi non autorizzati o sottraendosi alla responsabilità di controllare il veicolo. Se un incidente costituisce un reato, il conducente resta responsabile. Attivare una funzione di assistenza non fa del sistema del veicolo il conducente dal punto di vista legale.
Zhou Jiahai, direttore dell’Ufficio di ricerca della Corte suprema del popolo, ha dichiarato che le regole adottano una linea rigorosa contro gli abusi intenzionali, invitando al contempo alla cautela nei confronti dell’innovazione. «Da un lato, il parere sottolinea che gli atti criminali che usano deliberatamente l’intelligenza artificiale per mettere in pericolo la sicurezza nazionale, violare i diritti e gli interessi dei cittadini o turbare l’ordine sociale devono essere puniti severamente; dall’altro, richiede che gli atti innovativi nella ricerca e nell’applicazione dell’intelligenza artificiale siano trattati con prudenza e in conformità con la legge», ha dichiarato Zhou.
La corte riconosce che il parere non può risolvere ogni questione. Nella sua stessa spiegazione afferma che alcuni problemi restano aperti perché i tribunali non hanno esperienza o consenso sufficienti per stabilire una regola definitiva. Tra questi figurano le difficili controversie sull’addestramento dei modelli, lo status del materiale generato dall’IA ai fini del diritto d’autore, i brevetti relativi a invenzioni realizzate con l’assistenza dell’IA e le responsabilità lungo le catene di sviluppo open source.
L’effetto immediato è meno clamoroso di una nuova legge sull’IA, ma più concreto sul piano processuale. Ora i tribunali di tutta la Cina dispongono di un documento comune che indica loro come valutare il consenso, la colpa, le prove, le segnalazioni, i danni ai consumatori e gli obblighi di sicurezza nei casi che riguardano l’IA. Resta da vedere come verranno applicate queste indicazioni generali quando la prossima controversia riguarderà un modello i cui dati di addestramento, risultati e catena delle responsabilità non possono essere separati nettamente.