Vai al contenuto
AI.info

The Pulse

La fondatrice di Muslim Girl fa causa a xAI per presunti deepfake di Grok

Amani Al-Khatahtbeh afferma che Grok ha generato immagini sessualizzate che la ritraevano e in cui le ha tolto l’hijab senza il suo consenso. La causa federale chiama in causa xAI e X Corp. e chiede un risarcimento ai sensi della legge californiana.

La fondatrice di Muslim Girl fa causa a xAI per presunti deepfake di Grok

La fondatrice di Muslim Girl, Amani Al-Khatahtbeh, ha fatto causa a xAI e X Corp., sostenendo che Grok abbia generato senza il suo consenso immagini sessualizzate che la ritraevano e le abbia rimosso digitalmente l’hijab. La causa federale fa seguito alla pubblicazione di immagini in risposta a una fotografia che aveva condiviso dell’insediamento di Zohran Mamdani, ha riferito Muslim Girl.

La denuncia è stata depositata il 18 novembre presso il tribunale distrettuale degli Stati Uniti per il distretto settentrionale della California. Secondo WIRED, il caso riguarda la distribuzione intenzionale di immagini sessuali non consensuali, difetti di progettazione e commercializzazione, negligenza e provocazione intenzionale di sofferenza emotiva.

Le immagini e le segnalazioni

Al-Khatahtbeh chiede un risarcimento fino a 250.000 dollari per ogni violazione del Codice civile della California. xAI non ha risposto immediatamente alla richiesta di commento di WIRED.

Secondo Muslim Girl, Al-Khatahtbeh ha scoperto il 2 gennaio 2026 che alcuni utenti avevano risposto alla sua foto dell’insediamento taggando Grok e chiedendogli di spogliarla. Le immagini la ritraevano in lingerie e bikini, alcune con insulti sulla fronte.

Le richieste includevano prompt per rimuoverle l’hijab e cambiarle i vestiti; WIRED ha dichiarato di aver esaminato le schermate di alcuni prompt e delle immagini generate. Muslim Girl ha riferito che Grok aveva pubblicato le immagini direttamente nella discussione.

Quel giorno ha segnalato le immagini a X e il giorno seguente alla polizia. Secondo quanto riportato da Muslim Girl, la denuncia sostiene che X abbia nascosto le immagini alla sua vista, lasciandole però visibili al pubblico. Alcune sarebbero ancora accessibili pubblicamente su X.

Al-Khatahtbeh ha descritto l’esperienza come sessualizzata e legata alla sua identità di donna visibilmente musulmana. «Mi è sembrato che mi stessero punendo digitalmente perché online sono una donna visibilmente musulmana», ha detto a Muslim Girl.

Le accuse sulla progettazione di Grok

Secondo WIRED, la denuncia sostiene che xAI avrebbe potuto progettare Grok in modo che rifiutasse le richieste di rimuovere indumenti religiosi dalle immagini di persone reali. Sostiene inoltre che lo strumento non avrebbe dovuto essere in grado di creare e pubblicare rappresentazioni sessualizzate di persone identificabili che non avevano dato il proprio consenso.

Secondo Muslim Girl, la causa sostiene che altri sviluppatori di IA abbiano realizzato strumenti per le immagini in grado di rifiutare richieste di sessualizzare persone identificabili, mentre xAI promuoveva le capacità «piccanti» di Grok e lo ha lanciato senza le tutele standard del settore. Dopo le critiche pubbliche, xAI ha limitato agli abbonati paganti gli strumenti di Grok per le immagini su X.

Hillary Nappi, partner presso AWK Survivor Advocate Attorneys, rappresenta Al-Khatahtbeh. In una dichiarazione a Muslim Girl, ha detto di voler chiedere conto a xAI e X di quanto accaduto.

Un esame più ampio e la legislazione

WIRED ha riferito che, secondo una stima di gennaio del Center for Countering Digital Harm, Grok avrebbe generato su X circa 3 milioni di immagini sessualizzate fotorealistiche in un periodo di 11 giorni iniziato il 29 dicembre. La stima includeva circa 23.000 immagini di minori.

In un’analisi separata di 500 immagini generate da Grok dal 6 al 9 gennaio, WIRED ha rilevato che il 5% conteneva modifiche che aggiungevano o rimuovevano abbigliamento religioso modesto. La testata ha riferito che gli utenti avevano chiesto a Grok di modificare in quel modo immagini che ritraevano soprattutto donne e ragazze.

Il 17 novembre, Al-Khatahtbeh si è unita a Paris Hilton e alla deputata Alexandria Ocasio-Cortez a Capitol Hill per chiedere l’approvazione del DEFIANCE Act. La proposta di legge federale darebbe alle vittime di deepfake sessualmente espliciti non consensuali il diritto di fare causa ai responsabili; secondo Muslim Girl, il suo caso si basa su una legge californiana già in vigore.

Fonti

  1. Fonte originale Muslim Girl muslimgirl.com

Altre pagine lette

  1. WIRED wired.com
  2. U.S. District Court for the Northern District of California apps.cand.uscourts.gov

Notizie correlate

Esplora

Altri articoli