The Pulse
Ofcom ha valutato un ricorso urgente al tribunale per i deepfake di Grok
La direttrice generale di Ofcom Melanie Dawes ha detto ai parlamentari che l’autorità britannica ha valutato un ricorso urgente al tribunale per i deepfake a sfondo sessuale generati con Grok, ma che la soglia prevista dalla legge ha impedi
AI.info Team · Scritto con l’IA · verificato ·
Ofcom ha valutato la possibilità di chiedere un intervento urgente del tribunale per i deepfake a sfondo sessuale creati con Grok, il chatbot di X, ma la soglia prevista dalla legge ha impedito all’autorità di intervenire immediatamente. La direttrice generale Melanie Dawes ha detto ai parlamentari martedì 20 ottobre che l’autorità aveva preso in considerazione un provvedimento urgente mentre indagava sulle immagini. Ha inoltre chiesto modifiche ai poteri provvisori di interruzione dell’attività previsti dall’Online Safety Act, secondo il resoconto dell’audizione pubblicato da MLex.
Il ricorso al tribunale è soggetto a una soglia elevata
Ofcom può chiedere a un tribunale di imporre misure di interruzione dell’attività nei casi più gravi di inadempienza persistente. Le misure possono comprendere l’obbligo per i fornitori di servizi Internet di bloccare l’accesso a un servizio nel Regno Unito. L’autorità ha avvertito che si tratta di un intervento significativo, soggetto a una procedura definita e a una soglia giuridica elevata.
«La legge fissa una soglia elevata per richieste di questo tipo», ha dichiarato Ofcom nell’aggiornamento di febbraio sull’indagine. L’autorità ha anche detto che difficilmente chiederebbe un blocco come misura abituale, per il possibile effetto sulla libertà di espressione. Le dichiarazioni di Dawes ai parlamentari hanno messo più chiaramente a fuoco questo vincolo giuridico: Ofcom ha valutato un intervento urgente, ma non poteva eludere i requisiti previsti dalla legge solo perché il presunto danno richiedeva rapidità.
L’indagine su X ora si concentra sugli obblighi relativi ai contenuti illegali
Ofcom ha avviato l’indagine formale su X il 12 gennaio, dopo aver contattato l’azienda il 5 gennaio in merito a segnalazioni di immagini sessualizzate di persone reali, compresi minori, generate con Grok. L’indagine ha esaminato se X avesse valutato i rischi, reso accessibile la segnalazione di contenuti sospettati di essere illegali e gestito adeguatamente le decisioni di moderazione. Il 14 ottobre Ofcom ha dichiarato di aver raccolto e analizzato un’ampia quantità di informazioni avvalendosi dei propri poteri formali.
Da allora l’autorità ha ristretto l’ambito dell’indagine ancora in corso. X ha apportato modifiche che, secondo Ofcom, limitano l’accesso al materiale pornografico per gli account che non hanno completato la verifica dell’età; Ofcom continuerà a monitorare queste verifiche, concentrando il resto dell’indagine sugli obblighi di X riguardanti i contenuti illegali, i reclami e le segnalazioni. Se avrà motivi ragionevoli per ritenere che X non abbia adempiuto ai propri obblighi, Ofcom afferma che il passo successivo sarà una valutazione provvisoria, prima della decisione definitiva, che darà all’azienda piena possibilità di rispondere.
Il servizio Grok autonomo resta una lacuna normativa distinta
Il caso che riguarda X è distinto da quello del servizio Grok autonomo. Ofcom ha dichiarato che l’Online Safety Act non le consente di indagare sulla creazione di immagini illegali in un’interazione individuale con un chatbot quando tali immagini non vengono condivise né compaiono nei risultati di ricerca. A febbraio, l’autorità ha detto che continuava a chiedere risposte a xAI, ma che in quel momento non stava indagando sull’azienda per quella generazione di immagini.
In seguito ai contatti con Ofcom, SpaceXAI, precedentemente xAI, ha introdotto restrizioni nel Regno Unito per il servizio autonomo. L’aggiornamento di ottobre afferma che alle persone con indirizzi IP britannici è impedito visualizzare, generare o condividere contenuti pornografici attraverso gli strumenti di generazione di immagini di Grok; l’azienda ha inoltre limitato le conversazioni sessualmente esplicite con i suoi chatbot companion. Ofcom afferma che monitorerà queste misure e proseguirà le discussioni su come la legge si applichi al servizio.
I parlamentari hanno ascoltato le ragioni per modificare la legge
Dawes e il presidente di Ofcom Sir Ian Cheshire sono comparsi davanti alla commissione per il Digitale, la Cultura, i Media e lo Sport della Camera dei Comuni per discutere il lavoro dell’autorità, compresi la sicurezza online e l’effetto dell’IA sui suoi compiti di vigilanza. L’audizione si è tenuta mentre l’indagine di Ofcom su X passava da un’ampia raccolta di prove alla valutazione del rispetto, da parte della piattaforma, dei suoi obblighi di legge. La prossima tappa pubblica, se l’autorità riterrà che vi siano motivi per procedere, sarà una valutazione provvisoria, non un provvedimento immediato del tribunale.
La distinzione fondamentale è tra il potere di Ofcom di agire e le condizioni per utilizzare i suoi strumenti più incisivi. L’autorità può indagare sui sistemi di X e adottare misure di applicazione dell’Online Safety Act, ma un blocco dell’accesso in tutto il Regno Unito richiede una richiesta separata al tribunale e il superamento di una soglia elevata. Per ora, l’indagine prosegue secondo questa procedura, mentre Ofcom monitora le restrizioni introdotte da X e SpaceXAI.