Elon Musks KI-Startup xAI reichte eine Bundesklage ein am Dienstag gegen einen Mann aus South Carolina ein und behauptete, er habe den Grok-Chatbot verwendet, um Material zum sexuellen Missbrauch von Kindern zu erstellen, was gegen die Nutzungsbedingungen des Unternehmens verstoße.
Reuters beschrieb die Klage als einen der frühesten Fälle, in denen ein KI-Unternehmen rechtliche Schritte gegen einen Nutzer wegen der angeblichen Erstellung von explizitem Inhalt mit seiner Technologie unternahm. Die Klage wurde beim US-Bezirksgericht für den nördlichen Bezirk von Texas eingereicht.
Der Angeklagte, Terry Wayne Harwood, wurde im Februar wegen mehrfacher mutmaßlicher sexueller Ausbeutung eines Minderjährigen festgenommen, laut CNN. Laut der Beschwerde von xAI eröffnete Harwood mehrere Konten und reichte laut Unternehmen "irreführende Eingaben" ein, um die "eingebauten Schutzmaßnahmen" der Plattform zu umgehen, indem er nicht-sexuelle Fotos von Erwachsenen und Kindern als Ausgangsmaterial für sexuell explizite Deepfakes einspeiste. Kontaktinformationen für Terry Wayne Harwood waren laut Reuters nicht sofort verfügbar.
"Die Handlungen des Angeklagten waren ein kalkuliertes Schema, um das Werkzeug des Klägers für kriminelle Zwecke zu nutzen, reale Opfer einem tiefen und dauerhaften Schaden auszusetzen, während der Kläger erheblichen rechtlichen Risiken und Reputationsschäden ausgesetzt wurde", sagte xAI in der Klage.
xAI hat das Gericht gebeten, Schadenersatz in einer noch festzulegenden Höhe zuzusprechen und eine dauerhafte Verfügung zu erlassen, die Terry Wayne Harwood den Zugriff auf Grok untersagt. Das Unternehmen hat das Gericht außerdem gebeten, festzustellen, dass er gegen die Nutzungsbedingungen verstoßen hat.
In der Beschwerde wird angegeben, dass xAI bisher im Jahr 2026 insgesamt 52.222 Konten gelöscht und 73.604 Berichte an das Nationale Zentrum für vermisste und ausgebeutete Kinder eingereicht hat, Maßnahmen, die nach Angaben des Unternehmens zu mindestens 244 Verhaftungen beigetragen haben.
Der Fall kommt inmitten eines anhaltenden rechtlichen Drucks auf xAI wegen der Bildgenerierungsfunktionen von Grok. Die Stadtverwaltung von Baltimore hat Klage gegen xAI beim Bezirksgericht eingereicht, in der sie behauptet, dass Grok gegen lokale Verbraucherschutzgesetze verstößt, indem es nicht einvernehmliche explizite Deepfakes erstellt, einschließlich Bilder von Minderjährigen. Separat haben drei Teenager aus Tennessee eine Sammelklage eingebracht beim Bundesgericht in Kalifornien, in der sie behaupten, dass ein Täter eine Drittanbieter-App verwendet hat, die von xAIs Technologie lizenziert wurde, um kinderpornografisches Material zu erzeugen, das sie darstellt. Ein britisches Parlamentsmitglied, Jess Asato, hat ebenfalls eine Klage beim High Court in England eingereicht gegen xAI wegen nicht einvernehmlicher sexueller Deepfake-Bilder, die von ihr erstellt wurden.
xAI hat erklärt, dass es Maßnahmen gegen den Missbrauch ergreift, indem es Konten sperrt und verdächtiges Material über Kindesmissbrauch an die Behörden meldet. Sprecher von xAI reagierten nicht sofort auf die Anfrage von Reuters nach einem Kommentar.