Elon Musk macht Groks sexualisierte KI-Bilder zu einem 'Premium-Service' für X-Abonnenten.

Dies folgt auf eine Welle der Empörung in dieser Woche darüber, dass Grok verwendet wurde, um sexualisierte und nicht einvernehmliche Bilder zu erstellen, einschließlich Darstellungen von Frauen und Kindern, in dem, was X zuvor als 'scharfen Modus' bezeichnet hat.

Als Reuters gefragt wurde, ein bearbeitetes Bild eines Reporters im Bikini zu erstellen, antwortete Grok, dass das Feature jetzt nur noch zahlenden Nutzern zur Verfügung steht, berichtete das Outlet am Freitag. Während dieser Schritt möglicherweise dazu gedacht ist, das Tempo der Erstellung sexualisierter Bilder durch X-Nutzer zu begrenzen, erlaubt die eigenständige App von Grok weiterhin die Bildgenerierung ohne Abonnement, was Zweifel daran aufwirft, ob das Unternehmen das Grundproblem angeht.

Die Beschränkung des Bildgenerierungstools von Grok auf zahlende Abonnenten macht die Erstellung von Deepfakes zu einem „Premium-Service“ und ist „keine Lösung“, sagte ein Sprecher des britischen Premierministers sagte Freitag und fügte hinzu, dass der Schritt für Opfer von Frauenfeindlichkeit und sexueller Gewalt „beleidigend“ sei.

Grok wird von xAI, Musks KI-Startup, entwickelt und ist eng in X integriert – eine Plattform, die Musk wiederholt als Stütze der freien Meinungsäußerung und begrenzter Moderation dargestellt hat. Das hat Grok bei Nutzern populär gemacht, die von strengeren KI-Tools frustriert sind, und den Bot zu einem Stresstest dafür gemacht, wie ungebremste KI im großen Maßstab funktioniert, wobei Nutzer Grok direkt in Posts markieren, um Bilder in Echtzeit zu generieren oder zu bearbeiten.

Aber die Reaktion war international, wobei europäische Gesetzgeber das Tool verurteilten und rechtliche Schritte forderten.

Der britische Telekommunikationsregulierer Ofcom erklärte am Montag, dass ihm „ernsthafte Bedenken“ hinsichtlich des Features bekannt seien.

„Wir haben dringend Kontakt zu X und xAI aufgenommen, um zu verstehen, welche Schritte sie unternommen haben, um ihre gesetzlichen Pflichten zum Schutz der Nutzer im Vereinigten Königreich zu erfüllen“, sagte ein Sprecher in einer Erklärung auf X geteilt.

"Das ist nicht scharf. Das ist illegal. Das ist empörend. Das ist widerlich. So sehen wir das, und das hat in Europa keinen Platz", sagte der Sprecher der Europäischen Kommission, Thomas Regnier, am Montag vor Reportern. Deutschlands Medienminister Wolfram Weimer beschrieb das Phänomen als die „Industrialisierung der sexuellen Belästigung."