The Pulse
Fundadora da Muslim Girl processa xAI por deepfakes supostamente gerados pelo Grok
Amani Al-Khatahtbeh afirma que o Grok gerou imagens sexualizadas dela e removeu seu hijab sem consentimento. O processo federal cita a xAI e a X Corp. e pede indenização com base na legislação da Califórnia.

A fundadora da Muslim Girl, Amani Al-Khatahtbeh, processou a xAI e a X Corp., alegando que o Grok gerou imagens sexualizadas dela sem consentimento e removeu digitalmente seu hijab. O processo federal foi apresentado após a publicação de imagens em resposta a uma fotografia que ela compartilhou da posse de Zohran Mamdani, informou a Muslim Girl.
A ação foi protocolada em 18 de novembro no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia. O caso alega distribuição intencional de imagens sexuais sem consentimento, falhas de projeto e marketing, negligência e imposição intencional de sofrimento emocional, segundo a WIRED.
As imagens e os relatos
Al-Khatahtbeh pede indenização de até US$ 250.000 por violação do Código Civil da Califórnia. A xAI não respondeu imediatamente ao pedido de comentário da WIRED.
Segundo a Muslim Girl, Al-Khatahtbeh descobriu em 2 de janeiro de 2026 que usuários haviam respondido à foto de sua posse marcando o Grok e pedindo que ele a despisse. As imagens a retratavam de lingerie e biquíni, algumas com insultos escritos em sua testa.
Os pedidos incluíam prompts para remover seu hijab e trocar suas roupas; a WIRED disse que analisou capturas de tela de alguns dos prompts e das imagens resultantes. A Muslim Girl informou que o Grok publicou as imagens diretamente na conversa.
Ela denunciou as imagens ao X naquele dia e à polícia no dia seguinte. A ação alega que o X ocultou as imagens para que ela não as visse, embora continuassem visíveis ao público, informou a Muslim Girl. Algumas supostamente ainda estão disponíveis publicamente no X.
Al-Khatahtbeh descreveu a experiência como sexualizada e ligada à sua identidade de mulher visivelmente muçulmana. “Senti como se estivesse sendo punida digitalmente por ser uma mulher visivelmente muçulmana na internet”, disse ela à Muslim Girl.
Alegações sobre o projeto do Grok
A ação argumenta que a xAI poderia ter projetado o Grok para recusar pedidos de remoção de vestimentas religiosas de imagens de pessoas reais, informou a WIRED. Também argumenta que a ferramenta não deveria ter sido capaz de criar e publicar representações sexualizadas de pessoas identificáveis que não haviam dado consentimento.
O processo alega que outros desenvolvedores de IA criaram ferramentas de imagem para recusar pedidos de sexualização de pessoas identificáveis, enquanto a xAI promoveu os recursos “picantes” do Grok e o lançou sem salvaguardas padrão do setor, segundo a Muslim Girl. Após críticas públicas, a xAI restringiu as ferramentas de imagem do Grok no X a assinantes pagantes.
Hillary Nappi, sócia do escritório AWK Survivor Advocate Attorneys, representa Al-Khatahtbeh. Em uma declaração à Muslim Girl, ela disse que pretende responsabilizar a xAI e o X pelo que aconteceu.
Escrutínio mais amplo e legislação
A WIRED informou que uma estimativa de janeiro do Center for Countering Digital Harm calculou em cerca de 3 milhões o número de imagens sexualizadas fotorrealistas geradas pelo Grok no X durante um período de 11 dias iniciado em 29 de dezembro. Essa estimativa incluía cerca de 23.000 imagens de crianças.
Em uma análise separada de 500 imagens do Grok geradas de 6 a 9 de janeiro, a WIRED constatou que 5% continham edições que acrescentavam ou removiam roupas religiosas recatadas. A publicação informou que usuários haviam orientado o Grok a alterar imagens de mulheres e meninas, em sua maioria, dessa maneira.
Em 17 de novembro, Al-Khatahtbeh se juntou a Paris Hilton e à deputada Alexandria Ocasio-Cortez no Capitólio para pedir a aprovação do DEFIANCE Act. A proposta de lei federal daria às vítimas de deepfakes sexualmente explícitos sem consentimento o direito de processar os responsáveis; o caso dela se baseia em uma lei já existente da Califórnia, informou a Muslim Girl.
Fontes
- Fonte original Muslim Girl muslimgirl.com
Outras páginas lidas
- WIRED wired.com
- U.S. District Court for the Northern District of California apps.cand.uscourts.gov
Notícias relacionadas
- Estudantes processam após alerta de IA sobre arma confundir Doritos com uma arma
- Relatório da Califórnia propõe verificações independentes obrigatórias para IA de fronteira
- GAO diz que quatro plataformas de IA produziram planos de ataque viáveis em testes
- Microsoft defende controles de segurança mais rigorosos à medida que a IA de fronteira avança
- Nadella diz que muita infraestrutura crítica não pode receber patches