Die Klage, eine der ersten einer KI-Firma gegen einen Nutzer wegen expliziter KI-Inhalte, fordert Schadensersatz und ein dauerhaftes Verbot von Grok.
Getty Images / NurPhoto
Elon Musks KI-Startup xAI reichte eine Bundesklage ein am Dienstag gegen einen Mann aus South Carolina ein und behauptete, er habe den Grok-Chatbot genutzt, um Material über sexuellen Missbrauch von Kindern zu erstellen, was gegen die Nutzungsbedingungen des Unternehmens verstoße.
Laut Reuters gehört die Klage zu den frühesten Fällen, in denen ein KI-Unternehmen rechtliche Schritte gegen einen Benutzer wegen der angeblichen Produktion expliziter Inhalte mit seiner Technologie unternimmt. Die Klage wurde beim U.S. District Court für den Northern District of Texas eingereicht.
Der Angeklagte, Terry Wayne Harwood, wurde im Februar wegen mehrfacher mutmaßlicher sexueller Ausbeutung eines Minderjährigen festgenommen, laut CNN. Laut der Beschwerde von xAI eröffnete Harwood mehrere Konten und reichte laut dem Unternehmen "irreführende Eingaben" ein, um die "integrierten Schutzmaßnahmen" der Plattform zu umgehen, indem er nicht-sexuelle Fotos von Erwachsenen und Kindern als Ausgangsmaterial für sexuell explizite Deepfakes einspeiste. Laut Reuters waren keine Kontaktdaten für Terry Wayne Harwood sofort verfügbar.
"Die Handlungen des Beklagten waren ein kalkuliertes Schema, um das Werkzeug des Klägers für kriminelle Zwecke zu nutzen und echte Opfer einem tiefen und dauerhaften Schaden auszusetzen, während der Kläger einem erheblichen rechtlichen Risiko und Reputationsschaden ausgesetzt wurde", sagte xAI in der Klage.
xAI hat das Gericht gebeten, Schadenersatz in einer noch festzulegenden Höhe zuzusprechen und eine dauerhafte Verfügung zu erlassen, die Terry Wayne Harwood daran hindert, auf Grok zuzugreifen. Das Unternehmen bat das Gericht auch festzustellen, dass er gegen die Nutzungsbedingungen verstoßen hat.
In der Klage heißt es, dass xAI im Jahr 2026 bisher 52.222 Konten gesperrt und 73.604 Berichte an das National Center for Missing & Exploited Children übermittelt hat, Maßnahmen, die laut Unternehmen zu mindestens 244 Festnahmen beigetragen haben.
Der Fall kommt inmitten anhaltenden rechtlichen Drucks auf xAI wegen der Bildgenerierungsfunktionen von Grok. Die Stadtverwaltung von Baltimore hat Klage gegen xAI im Kreisgericht eingereicht,und behauptet, dass Grok lokale Verbraucherschutzgesetze verletzt, indem es nicht einvernehmliche explizite Deepfakes erzeugt, einschließlich Bildern von Minderjährigen. Unabhängig davon haben drei Teenager aus Tennessee eine Sammelklage vor einem Bundesgericht in Kalifornien eingereicht und behauptet, dass ein Täter eine Drittanbieter-App benutzt hat, die auf xAIs Technologie lizenziert ist, um kinderpornografisches Material zu erzeugen, das sie darstellt. Ein britisches Parlamentsmitglied, Jess Asato, hat außerdem eine Klage am High Court in England eingereicht. gegen xAI wegen nicht einvernehmlicher sexueller Deepfake-Bilder, die von ihr erstellt wurden.
xAI hat erklärt, dass Maßnahmen gegen Missbrauch ergriffen werden, indem Konten gesperrt und mutmaßliches Material über sexuellen Missbrauch von Kindern an die Behörden gemeldet werden. Sprecher von xAI haben nicht sofort auf die Anfrage von Reuters nach einem Kommentar geantwortet.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
