Jess Asato reichte die Klage beim High Court gemäß dem Datenschutzgesetz ein und forderte Schadensersatz sowie eine Entscheidung, dass die Designentscheidungen von xAI illegal waren.
Marc Piasecki/Getty Images
Jess Asato, ein Mitglied des Parlaments der Labour-Partei, reichte eine Klage vor dem High Court in England ein gegen xAI, das Unternehmen hinter der Grok AI-Plattform, wegen nicht einvernehmlicher sexueller Deepfake-Bilder, die von ihr Anfang Januar 2026 generiert wurden.
AWO, die Anwaltskanzlei, die Asato vertritt, erklärte, die Klage beim High Court ziele auf angebliche Verstöße gegen das Datenschutzgesetz und den unerlaubten Missbrauch privater Informationen ab. Zu den von ihr angestrebten Rechtsmitteln gehören finanzielle Schadensersatzforderungen, ein gerichtlicher Feststellungsbeschluss, dass das Verhalten rechtswidrig war, und eine einstweilige Verfügung, die xAI dazu verpflichtet, fortlaufende Verstöße einzustellen und Maßnahmen gegen zukünftigen Missbrauch einzuführen.
Nachdem Asato Grok im Januar öffentlich verurteilt hatte, begann gefälschter Inhalt zu kursieren, der Bilder von ihr im Bikini und ein Video enthielt, das sie zeigt, wie sie "mit Chloroform betäubt und für einen sexuellen Übergriff vorbereitet wird", so Reuters.
"Grok hat Deepfake-Pornografie und sexualisierte Inhalte erstellt, die Tausende von Frauen und Kindern geschädigt haben", sagte Asato in einer Erklärung. "Seine Fähigkeit ist kein Unfall, kein Missbrauch, es ist eine Designentscheidung seiner Schöpfer. Mit diesem Verfahren verfolge ich die Verantwortlichkeit für diese Entscheidungen."
Ravi Naik, Rechtsdirektor von AWO und Asatos führender Anwalt, gestaltete die Klage als Musterfall für die Haftung von KI-Entwicklern. "Dies ist eine der ersten Klagen, um die Haftung für das Design eines KI-Systems zu testen, und wir hoffen, dass dadurch klar wird, dass Sicherheit für KI-Entwickler keine Nachgedanke sein kann", sagte Naik in einer Erklärung.
Premierminister Keir Starmer unterstützte am Donnerstag Asatos Klage und nannte die Bilder "widerlich" und sagte, er stehe "100 % hinter der Aktion, die sie unternommen hat", laut Sky News. xAI reagierte nicht sofort auf Anfragen nach Kommentaren.
Die Klage ist eine von mehreren rechtlichen Herausforderungen, mit denen xAI aufgrund von Groks Bildgenerierungsfähigkeiten konfrontiert ist. Mitte Januar gab xAI Änderungen bekannt, die Groks Bildbearbeitungsfunktionen einschränkten und die Generierung von Bildern, die Menschen in aufreizender Kleidung zeigen, überall dort untersagten, wo solche Darstellungen gegen das Gesetz verstoßen. Trotz eines anschließenden unternehmensweiten Verbots von Nacktfunktionen zitierte AWO Tests von NBC News , die darauf hinwiesen, dass Groks Fähigkeit, sexuelle Deepfakes zu erzeugen, auch nach Inkrafttreten der Beschränkungen bestehen blieb. Es ist seitdem im Vereinigten Königreich illegal, ein nicht einvernehmliches Deepfake-Bild eines Erwachsenen zu erstellen oder anzufordern.
Groks Deepfake-Fähigkeiten haben auch außerhalb des Vereinigten Königreichs rechtliche Bedenken aufgeworfen. Baltimore reichte im März eine Klage gegen xAI ein, mit der die Stadt argumentierte, dass die Fähigkeit von Grok, gefälschte sexualisierte Bilder zu erzeugen, gegen das Verbraucherschutzgesetz verstoße.. A separate Sammelklage, die im März eingereicht wurde von drei Teenagern aus Tennessee, die behaupteten, dass das Grok-Modell von xAI über eine lizenzierte Drittanbieter-App verwendet wurde, um Kinderpornografie zu erzeugen, die sie darstellt. Regulierungsbehörden in mehreren Ländern haben laut Reuters ebenfalls Ermittlungen gegen Grok eingeleitet.
Asato forderte andere im Vereinigten Königreich auf, deren Bilder von Grok auf "missbräuchliche oder erniedrigende Weise" manipuliert wurden, sich zu melden und die Klage zu unterstützen.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
