7 KI-Deepfake-Kontroversen und virale Momente die Popmusik, Politik und Katholizismus erschütterten

Ein KI-generiertes Video des ukrainischen Präsidenten Wolodymyr Selenskyj forderte 2022 in den sozialen Medien die Soldaten des Landes auf, sie sollten ihre Waffen niederlegen und sich Russland ergeben.

Das Video war offensichtlicher gefälscht als neuere , die immer schwieriger von der Realität zu unterscheiden sind. Der Clip des falschen Zelenskyy überzeugte nur wenige bis wenige, wenn alle, angesichts des seltsamen Akzents und der anderen Hautfarbe des Deepfakes.

Ein schickes Deepfake-Foto des Papstes in einer modischen, knielangen Balenciaga-Pufferjacke wurde Anfang 2023 veröffentlicht. der erste der wirklich viral ging, zeigt, wie sich die Technologie schnell fortschritt und die Grenze zwischen dem Organischen und dem KI verwischte. Dies entstand etwa zu der Zeit als KI-generierte Fotos von Elon Musk hält die Hand der US-Abgeordneten Alexandria Ocasio-Cortez tauchte auch in den sozialen Medien auf gefälschte Bilder von Trumps Verhaftung.

Viraler Song „Heart on My Sleeve“ mit Gesang, der Drake and the Weeknd imitiert, stieß auf große Bedenken der Musikindustrie hinsichtlich geistiger Eigentumsrechte.

Später im Jahr 2023 wird die Universal Music Group (UMG) zusammen mit ABKCO und Concord Publishing Klage wegen Urheberrechtsverletzung eingereicht gegen das KI-Startup Anthropic , weil es angeblich Songtexte gestohlen hat, um seinen Chatbot zu trainieren. Und einige der größten Namen der Musikbranche — Nicki Minaj, Katy Perry, Billie Eilish, Camila Cabello und eine ganze Reihe anderer (insgesamt mehr als 200) — haben seitdem einen scharf formulierten offenen Brief unterzeichnet Fordert Technologieunternehmen, KI-Entwickler und Musikplattformen auf, zuzusichern, dass sie keine KI-basierten Tools zur Musikgenerierung herstellen oder verwenden werden.

Floridas Gouverneur Ron DeSantis‘ inzwischen eingestellte Präsidentschaftskampagne hat ein Video mit Deepfakes gepostet von Donald Trump wie er im letzten Sommer auf X den ehemaligen Direktor des National Institute of Allergy and Infectious Diseases Anthony Fauci küsste. Dieser Schritt verstärkte die anhaltenden Bedenken über den Einsatz von KI zur Falsch- und Desinformation im Vorfeld der US-Präsidentschaftswahl 2024.

„Was für ein Blödsinn“, begann die Nachricht.

Es handelte sich um eine von einer künstlichen Intelligenz generierte Stimme, die Präsident Joe Biden imitierte und Tausende Einwohner von New Hampshire anrief, um sie davon abzuhalten, bei den Vorwahlen der Demokraten im Bundesstaat ihre Stimme abzugeben. „[I]hre Stimme macht im November einen Unterschied, nicht an diesem Dienstag“, die Stimme sagte.

Der demokratische Politikberater Steven Kramer, der zugab, 500 Dollar für die Organisation der Robocalls bezahlt zu haben, wurde am Donnerstag in New Hampshire wegen 13 Fällen schwerer Wählerunterdrückung sowie 13 Vergehen angeklagt. Kramer ist auch mit Anklagen der Federal Communications Commission behaftet. Die FCC im Februar KI-generierte Stimmen bei Robocall-Betrug illegal gemacht.

„Bösewichte verwenden in unerwünschten automatischen Anrufen KI-generierte Stimmen, um schutzbedürftige Familienmitglieder zu erpressen, Prominente zu imitieren und Wähler zu täuschen. Wir machen die Betrüger, die hinter diesen automatischen Anrufen stecken, gewarnt“, sagte FCC-Vorsitzende Jessica Rosenworcel damals.

KI-generierte Nacktbilder von Taylor Swift wurden überflutet im Januar, wobei ein solches Foto zig Millionen Aufrufe und 24.000 Reposts erzielte. Swifties überschwemmten die Social-Media-Plattform die Deepfakes zu übertönen indem Sie echte Fotos des Stars posten.

Wenn es eine Person gibt, die das Land vereinen kann, dann ist es Taylor Swift. Der Angriff auf Swift veranlasste Bundesgesetzgeber beider Parteien zum Handeln. Obwohl es kein Bundesgesetz zu von KI erstellten Nacktbildern gibt, haben US-Senatoren eingeführte Gesetzgebung im Januar würde es Opfern er ermöglichen, ihre Täter zu verklagen, unter Bezug auf den Fall von Swift.

„Auch wenn die Bilder gefälscht sein könnten, ist der Schaden für die Opfer durch die Verbreitung sexuell eindeutiger Deepfakes sehr real“, sagten die US-Senatoren Richard Durbin und Lindsey Graham in ihre Ankündigung des Gesetzentwurfs das genannte DEFIANCE Gesetz. „Die Opfer haben ihren Job verloren und leiden möglicherweise anhaltend unter Depressionen oder Angstzuständen.“

Im Vorfeld der Präsidentschafts- und Parlamentswahlen in Taiwan im Januar startete eine von der Kommunistischen Partei Chinas unterstützte Online-Kampagne, die „Spamouflage“ oder „Dragonbridge“, verwendete KI Deepfakes um zu versuchen, das Ergebnis zu beeinflussen. Die Gruppe erstellte gefälschte Audioclips von einem ehemaligen Kandidaten, der Monate vor dem Rennen ausgestiegen war und jemanden unterstützte, den er nicht unterstützte.

Als Reaktion darauf schlug Microsoft Alarm, dass China KI nutze, um Desinformationskampagnen zu starten und ausländische Wahlen zu beeinflussen. „Dies war das erste Mal, dass Microsoft Threat Intelligence beobachtet hat, wie ein staatlicher Akteur KI-Inhalte nutzte, um ausländische Wahlen zu beeinflussen“, schrieben die Forscher.