Der xAI-Chatbot Grok durchbricht seine eigenen Leitplanken und erstellt gewalttätige, sexuell explizite Bilder
X $TWTR Premium -Abonnenten überschwemmen die Social Media -Plattform mit umstrittenen Deepfake -Bildern, The Verge berichtetDas KI-Tool, das sie zum Erstellen dieser Bilder verwenden, ist Grok – ein Chatbot, der von Elon Musks Startup xAI entwickelt wurde.
Laut The Verge ermöglichen Groks lockere Leitplanken den Benutzern, Deepfake-Bilder zu erstellen, auf denen Taylor Swift in Dessous zu sehen ist, Barack Obama, wie er Joe Biden mit einem Messer ersticht, Kamala Harris, wie sie eine Waffe in der Hand hält, und Bill Gates, der Kokain konsumiert. Und das, obwohl Grok sagt, dass es „die Erstellung pornografischer, übermäßig gewalttätiger, hasserfüllter oder zu gefährlichen Aktivitäten aufrufender Bilder vermeidet“.
Es ist nicht überraschend, dass Elon Musks Chatbot problematische Inhalte aufweist. Auch sein anderes Projekt, X, wurde weithin kritisiert, weil sie rassistische, gewalttätige und transphobe Inhalte fördert. Das Unternehmen wird von der EU untersucht für die Art der Moderation von Inhalten. Und die Europäische Kommission sagte im Mai sie sehr beunruhigt darüber, dass X sein Team für die Moderation stark abgebaut habe.
Andere Chatbots haben daran gearbeitet, die Entstehung schädlicher Inhalte zu bekämpfen. Gemini hat seinen KI-Bildgenerator aktualisiert. um es historisch korrekt zu machen und hat rassistische Vorurteile gezeigt. Microsofts Copilot, der OpenAIs Bildbearbeitungstool DALL-E3 verwendet, stand auf dem heißen Stuhl Anfang dieses Jahres wurde sie wegen unaufgeforderter Veröffentlichung von gewalttätigen und sexualisierten Bildern von Frauen und solchen Bildern verurteilt , die möglicherweise gegen Urheberrechte verstoßen sollten. Und Microsoft $MSFT (MSFT) Designer wurde verwendet, um problematische Deepfake-Nacktfotos von Taylor Swift zu erstellen, die Anfang dieses Jahres das Internet eroberten.
Elon Musk scheint keine Reue hinsichtlich seiner Deepfakes zu empfinden. Tatsächlich hat Musk hat kürzlich ein KI-generiertes Video erneut gepostet von Kamala Harris auf X.
Deepfakes wurden mit dendie Verbreitung von Desinformation und sexuelle Belästigung. Die meisten Deepfakes im Internet sind nicht einvernehmliche, KI-generierte pornografische Medien, die überwiegend auf Frauen abzielen. Zehn Staaten Es gibt Gesetze zur Regulierung von Deepfakes, aber noch keine bundesweiten Gesetze.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
