Zum Inhalt springen
AI.info

The Pulse

Gründerin von Muslim Girl verklagt xAI wegen mutmaßlicher Grok-Deepfakes

Amani Al-Khatahtbeh sagt, Grok habe ohne ihre Zustimmung sexualisierte Bilder von ihr erzeugt, auf denen ihr Hijab digital entfernt wurde. In ihrer Bundesklage nennt sie xAI und X Corp. als Beklagte und fordert nach kalifornischem Recht Schadensersatz.

Gründerin von Muslim Girl verklagt xAI wegen mutmaßlicher Grok-Deepfakes

Amani Al-Khatahtbeh, Gründerin von Muslim Girl, hat xAI und X Corp. verklagt. Sie wirft den Unternehmen vor, Grok habe ohne ihre Zustimmung sexualisierte Bilder von ihr erzeugt und ihren Hijab digital entfernt. Die Bundesklage folgt auf Bilder, die als Reaktion auf ein Foto veröffentlicht wurden, das sie von der Amtseinführung Zohran Mamdanis geteilt hatte, berichtete Muslim Girl.

Die Klage wurde am 18. November beim U.S. District Court for the Northern District of California eingereicht. Darin werden die vorsätzliche Verbreitung nicht einvernehmlich entstandener sexueller Bilder, Design- und Marketingmängel, Fahrlässigkeit und die vorsätzliche Verursachung seelischer Belastung geltend gemacht, berichtete WIRED.

Die Bilder und die Meldungen

Al-Khatahtbeh fordert eine Entschädigung von bis zu 250.000 US-Dollar pro Verstoß gegen das kalifornische Zivilgesetzbuch. xAI reagierte nicht umgehend auf eine Anfrage von WIRED um eine Stellungnahme.

Muslim Girl zufolge entdeckte Al-Khatahtbeh am 2. Januar 2026, dass Nutzer auf ihr Foto von der Amtseinführung geantwortet hatten, indem sie Grok markierten und es aufforderten, sie auszuziehen. Die Bilder zeigten sie in Dessous und Bikinis, auf einigen waren Schimpfwörter über ihre Stirn geschrieben.

Die Aufforderungen enthielten Prompts, ihren Hijab zu entfernen und ihre Kleidung zu ändern; WIRED zufolge prüfte das Magazin Screenshots einiger Prompts und der daraus entstandenen Bilder. Muslim Girl berichtete, Grok habe die Bilder direkt im Thread gepostet.

Sie meldete die Bilder noch am selben Tag bei X und am folgenden Tag bei der Polizei. Der Klage zufolge verbarg X die Bilder vor ihr, ließ sie aber für die Öffentlichkeit sichtbar, berichtete Muslim Girl. Einige sind Berichten zufolge auf X weiterhin öffentlich zugänglich.

Al-Khatahtbeh beschrieb die Erfahrung als sowohl sexualisiert als auch mit ihrer Identität als sichtbar muslimische Frau verbunden. „Es fühlte sich an, als würde ich online digital dafür bestraft, dass ich eine sichtbar muslimische Frau bin“, sagte sie gegenüber Muslim Girl.

Vorwürfe zum Design von Grok

In der Klage wird argumentiert, xAI hätte Grok so gestalten können, dass es Aufforderungen ablehnt, religiöse Kleidungsstücke auf Bildern realer Personen zu entfernen, berichtete WIRED. Außerdem hätte das Tool keine sexualisierten Darstellungen identifizierbarer Personen erzeugen und posten können dürfen, die dem nicht zugestimmt hatten.

Der Klage zufolge hätten andere KI-Entwickler Bildtools so gestaltet, dass sie Aufforderungen zur Sexualisierung identifizierbarer Personen ablehnen. xAI dagegen habe Groks „spicy“-Funktionen beworben und das Tool ohne branchenübliche Schutzmaßnahmen veröffentlicht, berichtete Muslim Girl. Nach öffentlicher Kritik beschränkte xAI Groks Bildfunktionen auf X auf zahlende Abonnenten.

Hillary Nappi, Partnerin bei AWK Survivor Advocate Attorneys, vertritt Al-Khatahtbeh. In einer Erklärung gegenüber Muslim Girl sagte sie, sie wolle xAI und X für das Geschehene zur Rechenschaft ziehen.

Größere Aufmerksamkeit und Gesetzgebung

WIRED berichtete, eine Schätzung des Center for Countering Digital Harm vom Januar beziffere die Zahl der fotorealistischen sexualisierten Bilder, die Grok auf X erzeugt habe, auf rund 3 Millionen innerhalb eines 11-tägigen Zeitraums ab dem 29. Dezember. In dieser Schätzung waren rund 23.000 Bilder von Kindern enthalten.

Bei einer separaten Untersuchung von 500 Grok-Bildern, die vom 6. bis zum 9. Januar erzeugt wurden, stellte WIRED fest, dass 5 % Änderungen enthielten, durch die religiöse Kleidung, die den Körper bedeckt, hinzugefügt oder entfernt wurde. Das Magazin berichtete, Nutzer hätten Grok angewiesen, auf diese Weise Bilder überwiegend von Frauen und Mädchen zu verändern.

Am 17. November schloss sich Al-Khatahtbeh Paris Hilton und der Abgeordneten Alexandria Ocasio-Cortez auf dem Capitol Hill an, um die Verabschiedung des DEFIANCE Act zu fordern. Das vorgeschlagene Bundesgesetz würde Opfern nicht einvernehmlich entstandener sexuell expliziter Deepfakes das Recht geben, die Verantwortlichen zu verklagen; ihr Fall stützt sich auf ein bestehendes kalifornisches Gesetz, berichtete Muslim Girl.

Quellen

  1. Originalquelle Muslim Girl muslimgirl.com

Weitere gelesene Seiten

  1. WIRED wired.com
  2. U.S. District Court for the Northern District of California apps.cand.uscourts.gov

Verwandte Meldungen

Entdecken

Weitere Artikel