Groks Badeanzug-Deepfake-Ära ist angeblich vorbei, aber Synonyme, Seitentüren und kreatives Prompen stellen diese Behauptung bereits auf die Probe.
Leon Neal/Getty Images
Grok soll angeblich nicht mehr als Deepfake-Digital-Badeanzug-Stylist fungieren. X $TWTR sagt, es habe „technologische Maßnahmen implementiert“, um sicherzustellen, dass der Chatbot keine Fotos von echten Menschen mehr in „aufreizende Kleidung wie Bikinis“ bearbeitet – genau die Art von Behauptung, die genau so lange hält, bis jemand versucht, eine leicht abgewandelte Eingabeaufforderung zu verwenden.
X sagt, der „Fix“ gelte für alle, auch für zahlende Nutzer. Und der neueste Schritt der Muttergesellschaft kommt auch mit einem geografischen Kleingedruckten – X sagt, dass es diese Art von Bildbearbeitung in Regionen blockiert, in denen sie illegal ist, und gibt dabei zwei Dinge gleichzeitig zu: Erstens, dass die Fähigkeit existiert; zweitens, dass die Einschränkung je nach geltendem Recht, das sich innerhalb der Reichweite Ihrer IP-Adresse befindet, unterschiedlich sein kann.
Aber ist das, was X sagt, wahr? Nicht wirklich in der Art und Weise, wie eine normale Person „wahr“ meinen könnte, was bedeutet: „Du kannst es nicht (oder wirst es nicht) mehr tun.“ The Verge probierte das aktualisierte Setup aus und stellte fest, dass Grok immer noch zu sexualisierten Bearbeitungen verleitet werden konnte, indem die Eingabeaufforderungen etwas anders formuliert wurden. Das Fragen nach einem Bikini könnte eine Ablehnung auslösen; das Fragen nach „aufreizender Sommerbekleidung“, veränderten Proportionen oder angrenzendem Styling (z. B. nach einem Crop-Top fragen) tat dies manchmal nicht. Der Verschluss mag real sein, aber mit dem richtigen Schlüssel öffnet sich die Tür trotzdem.
Dies ist nicht das erste Mal, dass Grok auf eine Weise „repariert“ wurde, die sauberer klingt, als sie funktioniert. Anfang dieses Monats, nach einer Welle von nicht einvernehmlichen, sexualisierten Deepfake-Bildbearbeitungen auf X – einschließlich unzähliger Fälle mit Minderjährigen – war die erste Reaktion von xAI nicht die dramatische Abschaltung der Funktion, die es „spicy mode“ nennt, sondern vielmehr eine Einschränkung; die Bildgenerierung und -bearbeitung würden auf X für zahlende Abonnenten beschränkt. Diese Paywall-„Lösung“ hatte eine vertraute tech-freundliche Logik: Weniger Menschen erhalten Zugang, weniger katastrophale öffentliche Vorfälle erreichen die Timeline, weniger Schlagzeilen landen. Aber die Lösung hatte auch eine bekannte Schwäche: Je schwieriger es ist, ein Feature extern zu prüfen, desto einfacher ist es, den Sieg zu erklären. Selbst nach der ursprünglichen „nur für zahlende Nutzer“-Änderung konnte die Bildbearbeitung auf X weiterhin von nicht zahlenden Nutzern durchgeführt werden.
Inzwischen hat die Regulierungswelt all die Empörung in Papierkram mit Fristen verwandelt. Im Vereinigten Königreich hat der Kommunikationsregulator Ofcom eine Untersuchung zu X wegen Grok-bezogener sexualisierter Bilder eingeleitet. In der EU hat die Europäische Kommission X angewiesen, Grok-bezogene Dokumente bis Ende 2026 aufzubewahren — die bürokratische Version, einem Teenager zu sagen: „Lösche nichts. Wir kommen mit Fragen zurück.“
Und dann gibt es die direkteste Form von Plattform-Feedback: einfach den Stecker ziehen. Die Philippinen planen, den Zugang zu Grok aus Kindersicherheitsgründen zu blockieren und schließen sich damit Indonesiens temporärer Blockade und Malaysias Beschränkungen gegenüber X an. Regierungen sagen, das Produkt käme schneller als seine Sicherheitsvorrichtungen, und sie seien nicht daran interessiert, den Unterschied in der Beta-Version zu testen.
Und der Druck steigt jetzt aus dem Posteingang des Regulators in den Engpass des App-Stores. Eine Koalition von 28 Interessengruppen, darunter Frauenrechts- und Tech-Watchdog-Organisationen, hat offene Briefe an Apple $AAPL und Google $GOOGL geschickt, in denen sie fordern, X und Grok vollständig aus ihren App-Stores zu entfernen. Sie argumentieren, dass beide Plattformen vom Verbreiten nicht einvernehmlicher, sexuell expliziter KI-Bilder profitieren und ihre eigenen Richtlinien zu intimen Bildern und Missbrauch nicht durchsetzen. Die Kampagne — „Get Grok Gone“ — wirft den Unternehmen vor, weit verbreitetes „mass digitales Entkleiden“ von Frauen und Minderjährigen durch Groks Werkzeuge zu ermöglichen und fügt hinzu, dass Xs Schritt, die Bildgenerierung hinter eine Paywall zu stellen, nichts tut, um den zugrunde liegenden Schaden zu stoppen. Apple und Google haben öffentlich nicht auf die Briefe reagiert, obwohl Senatoren in Washington ähnliche Forderungen gestellt haben.
xAI seinerseits hat Medienanfragen mit einer Art Haltung behandelt, die auf X gut ankommt, aber in Gerichtsakten schlecht abschneidet. Als Reuters um Stellungnahme zu den früheren Berichten bat, antwortete xAI mit ihrem bekannten „Legacy Media Lies“. Das Problem ist, dass diese Aussage nicht als Antwort funktioniert — und Regulierungsbehörden, anders als Zitat-Tweeter, können die Belege per Vorladung anfordern.
Ja, Grok hat aufgehört, Menschen in Bikinis zu editieren — solange man die Behauptung für bare Münze nimmt, die Grenzen nicht testet und eine strikte Regel nicht mit einer zuverlässig durchgesetzten verwechselt. Das Internet war historisch gesehen in keiner dieser Dinge besonders gut.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
