Apple und Google haben Apps aus dem App Store und Google Play entfernt, die Deepfake-Nacktbilder versprachen. laut einem Bericht von 404Media.
404Medien Anfang dieser Woche stellte es fest, dass Instagram Werbung für Apps hostete, die KI nutzen um Deepfake Nacktbilder zu generieren. Eine solche Anzeige verwendete ein Bild von Kim Kardashian mit dem Slogan: „Ziehen Sie jedes Mädchen kostenlos aus. Probieren Sie es aus.“ Dieser Dienst und ähnliche Dienste ermöglichen es den Nutzern offenbar das Hochladen echter Fotos von Frauen und das Erstellen von gefälschten Nacktbildern von ihnen. Der Bericht von 404 Media erschien nur wenige Wochen nachdem Meta hat das Senden und Empfangen von Nacktfotos über Instagram Messenger erschwert, um, wie es hieß, jugendliche Benutzer vor sexuellen Übergriffen zu schützen.
Deepfake-Nacktbilder waren im Frühstadium der generativen KI ein großes Problem. KI-generierte Nacktbilder von Taylor Swift wurden überflutet im Januar, wobei ein solches Foto zig Millionen Aufrufe und 24.000 Reposts erzielte. Deepfake-Nacktfotos von Teenager-Mädchen an Schulen in New Jersey und Washington, und Kalifornien hat Ende 2023 Untersuchungen ausgelöst. Bisher etwa zwei Dutzend US-Bundesstaaten haben Gesetze erlassen gegen sexuell explizite KI-generierte Inhalte vorzugehen. Und letzten Monat Zwei Teenager in Miami, Florida, wurden festgenommen weil sie sogenannte „Undress“-Apps verwendet hatten, um Nacktfotos von ihren Klassenkameraden zu machen, wurde gegen Verbrechen dritten Grades angeklagt.
Es gibt kein bundesstaatliches Gesetz zu von KI erstellten Nacktbildern, doch US-Senatoren haben im Januar einen Gesetzentwurf eingebracht, der es Opfern ermöglichen würde, ihre Täter zu verklagen.
„Auch wenn die Bilder gefälscht sein könnten, ist der Schaden für die Opfer durch die Verbreitung sexuell eindeutiger Deepfakes sehr real“, sagten die US-Senatoren Richard Durbin und Lindsey Graham in ihre Ankündigung des Gesetzentwurfs das genannte DEFIANCE Gesetz. „Die Opfer haben ihren Job verloren und leiden möglicherweise anhaltend unter Depressionen oder Angstzuständen.“
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier