Aller au contenu
AI.info

The Pulse

La fondatrice de Muslim Girl poursuit xAI pour des hypertrucages présumés générés par Grok

Amani Al-Khatahtbeh affirme que Grok a généré sans son consentement des images sexualisées d’elle où son hijab avait été retiré. Sa plainte devant un tribunal fédéral met en cause xAI et X Corp. et réclame des dommages-intérêts en vertu du droit californien.

La fondatrice de Muslim Girl poursuit xAI pour des hypertrucages présumés générés par Grok

Amani Al-Khatahtbeh, fondatrice de Muslim Girl, a porté plainte contre xAI et X Corp., affirmant que Grok a généré des images sexualisées d’elle sans son consentement et a supprimé numériquement son hijab. Cette plainte fédérale fait suite à la publication d’images en réponse à une photo qu’elle avait partagée lors de l’investiture de Zohran Mamdani, a rapporté Muslim Girl.

La plainte a été déposée le 18 novembre devant le tribunal fédéral de district du district nord de Californie. Selon WIRED, elle fait état de distribution intentionnelle d’images sexuelles non consenties, de défauts de conception et de commercialisation, de négligence et d’infliction intentionnelle d’une détresse émotionnelle.

Les images et les signalements

Al-Khatahtbeh réclame jusqu’à 250 000 dollars de dommages-intérêts par infraction au Code civil de Californie. xAI n’a pas immédiatement répondu à la demande de commentaires de WIRED.

Selon Muslim Girl, Al-Khatahtbeh a découvert le 2 janvier 2026 que des utilisateurs avaient répondu à sa photo de l’investiture en identifiant Grok et en lui demandant de la déshabiller. Les images la représentaient notamment en lingerie et en bikini, certaines avec des insultes inscrites sur le front.

Les demandes comprenaient des prompts visant à retirer son hijab et à changer ses vêtements ; WIRED a indiqué avoir examiné des captures d’écran de certains prompts et des images obtenues. Muslim Girl a rapporté que Grok avait publié les images directement dans le fil de discussion.

Elle a signalé les images à X le jour même, puis à la police le lendemain. Selon Muslim Girl, la plainte affirme que X a masqué les images à sa vue tout en les laissant visibles du public. Certaines seraient toujours accessibles au public sur X.

Al-Khatahtbeh a décrit une expérience à la fois sexualisée et liée à son identité de femme visiblement musulmane. « J’avais l’impression d’être punie numériquement parce que j’étais une femme visiblement musulmane en ligne », a-t-elle déclaré à Muslim Girl.

Les critiques visant la conception de Grok

La plainte soutient que xAI aurait pu concevoir Grok de façon à ce qu’il refuse les demandes de retrait de vêtements religieux sur des images de personnes réelles, a rapporté WIRED. Elle fait également valoir que l’outil n’aurait pas dû pouvoir créer et publier des représentations sexualisées de personnes identifiables n’ayant pas donné leur consentement.

Selon Muslim Girl, la plainte affirme que d’autres développeurs d’IA ont conçu des outils d’image qui refusent les demandes visant à sexualiser des personnes identifiables, tandis que xAI a fait la promotion des capacités « épicées » de Grok et l’a lancé sans protections conformes aux normes du secteur. Après les critiques publiques, xAI a réservé aux abonnés payants les outils d’image de Grok sur X.

Hillary Nappi, associée chez AWK Survivor Advocate Attorneys, représente Al-Khatahtbeh. Dans une déclaration à Muslim Girl, elle a dit vouloir tenir xAI et X responsables de ce qui s’est passé.

Une attention accrue et des textes de loi

WIRED a rapporté qu’une estimation publiée en janvier par le Center for Countering Digital Harm évaluait à environ 3 millions le nombre d’images sexualisées photoréalistes générées par Grok sur X sur une période de 11 jours à partir du 29 décembre. Cette estimation incluait environ 23 000 images d’enfants.

Dans un examen distinct de 500 images générées par Grok du 6 au 9 janvier, WIRED a constaté que 5 % comportaient des modifications ajoutant ou retirant des vêtements religieux pudiques. Le média a rapporté que les utilisateurs avaient demandé à Grok de modifier de cette manière des images représentant principalement des femmes et des filles.

Le 17 novembre, Al-Khatahtbeh a rejoint Paris Hilton et la députée Alexandria Ocasio-Cortez au Capitole pour appeler à l’adoption du DEFIANCE Act. Cette proposition de loi fédérale donnerait aux victimes de deepfakes à caractère sexuel explicite non consentis le droit de poursuivre les responsables ; son affaire s’appuie sur une loi californienne déjà en vigueur, a rapporté Muslim Girl.

Sources

  1. Source originale Muslim Girl muslimgirl.com

Autres pages lues

  1. WIRED wired.com
  2. U.S. District Court for the Northern District of California apps.cand.uscourts.gov

Articles liés

Explorer

Autres articles