Ir al contenido
AI.info

The Pulse

La fundadora de Muslim Girl demanda a xAI por presuntos deepfakes de Grok

Amani Al-Khatahtbeh afirma que Grok generó imágenes sexualizadas de ella en las que le quitó el hiyab sin su consentimiento. Su demanda federal señala a xAI y X Corp. y reclama una indemnización al amparo de la legislación de California.

La fundadora de Muslim Girl demanda a xAI por presuntos deepfakes de Grok

Amani Al-Khatahtbeh, fundadora de Muslim Girl, ha demandado a xAI y X Corp. al alegar que Grok generó imágenes sexualizadas de ella sin su consentimiento y le quitó digitalmente el hiyab. La demanda federal se presentó después de que se publicaran imágenes en respuesta a una fotografía que compartió de la investidura de Zohran Mamdani, informó Muslim Girl.

La demanda se presentó el 18 de noviembre ante el Tribunal de Distrito de Estados Unidos para el Distrito Norte de California. El caso alega la distribución intencional de imágenes sexuales no consentidas, defectos de diseño y comercialización, negligencia y causación intencional de angustia emocional, según WIRED.

Las imágenes y las denuncias

Al-Khatahtbeh reclama una indemnización de hasta 250.000 dólares por cada infracción del Código Civil de California. xAI no respondió de inmediato a la solicitud de comentarios de WIRED.

Según Muslim Girl, Al-Khatahtbeh descubrió el 2 de enero de 2026 que algunos usuarios habían respondido a su foto de la investidura etiquetando a Grok y pidiéndole que la desvistiera. Las imágenes la mostraban con lencería y bikinis, y algunas tenían insultos escritos en la frente.

Las solicitudes incluían instrucciones para quitarle el hiyab y cambiarle la ropa; WIRED dijo que revisó capturas de pantalla de algunas de las instrucciones y de las imágenes resultantes. Muslim Girl informó que Grok publicó las imágenes directamente en el hilo.

Ese día denunció las imágenes ante X y, al día siguiente, ante la policía. La demanda alega que X ocultó las imágenes para que ella no pudiera verlas, aunque seguían siendo visibles para el público, informó Muslim Girl. Algunas seguirían estando disponibles públicamente en X.

Al-Khatahtbeh describió la experiencia como algo sexualizado y vinculado a su identidad como mujer visiblemente musulmana. «Sentí que me castigaban digitalmente por ser una mujer visiblemente musulmana en internet», dijo a Muslim Girl.

Acusaciones sobre el diseño de Grok

La demanda sostiene que xAI podría haber diseñado Grok para que rechazara las solicitudes de quitar prendas religiosas de las imágenes de personas reales, informó WIRED. También sostiene que la herramienta no debería haber podido crear y publicar representaciones sexualizadas de personas identificables que no habían dado su consentimiento.

La demanda alega que otros desarrolladores de IA crearon herramientas de imagen que rechazaban solicitudes para sexualizar a personas identificables, mientras que xAI promocionó las capacidades «picantes» de Grok y lo lanzó sin las protecciones estándar de la industria, según Muslim Girl. Tras las críticas públicas, xAI limitó las herramientas de imagen de Grok en X a los suscriptores de pago.

Hillary Nappi, socia de AWK Survivor Advocate Attorneys, representa a Al-Khatahtbeh. En una declaración a Muslim Girl, dijo que se propone exigir responsabilidades a xAI y X por lo ocurrido.

Un escrutinio más amplio y legislación

WIRED informó que, según una estimación de enero del Center for Countering Digital Harm, Grok generó alrededor de 3 millones de imágenes sexualizadas fotorrealistas en X durante un período de 11 días que comenzó el 29 de diciembre. Esa estimación incluía alrededor de 23.000 imágenes de niños.

En un análisis aparte de 500 imágenes generadas por Grok entre el 6 y el 9 de enero, WIRED encontró que el 5 % contenía ediciones que añadían o quitaban vestimenta religiosa recatada. El medio informó que los usuarios habían pedido a Grok que alterara de ese modo imágenes en su mayoría de mujeres y niñas.

El 17 de noviembre, Al-Khatahtbeh se unió a Paris Hilton y a la congresista Alexandria Ocasio-Cortez en el Capitolio para pedir la aprobación de la DEFIANCE Act. El proyecto de ley federal propuesto daría a las víctimas de deepfakes sexualmente explícitos y no consentidos el derecho a demandar a los responsables; su caso se basa en una ley vigente de California, informó Muslim Girl.

Fuentes

  1. Fuente original Muslim Girl muslimgirl.com

Otras páginas leídas

  1. WIRED wired.com
  2. U.S. District Court for the Northern District of California apps.cand.uscourts.gov

Noticias relacionadas

Explora

Más artículos