Meta hat sechs neue verdeckte Einflussoperationen entdeckt und vereitelt aus Ländern wie China, Iran und Israel, die mit künstlicher Intelligenz generierte Inhalte zur Verbreitung von Desinformationen nutzten.
Der Technologieriese , der auch laufende Forschungen zu einer verdeckten Einflussoperation aus Russland mit dem Namen Doppelgänger durchführt, stellte seine Forschungen zu den neuen Internet-übergreifenden Kampagnen in seinem am Mittwoch veröffentlichten vierteljährlichen Bericht zu feindlichen Bedrohungen für das erste Quartal 2024 bereit. Er ist unter vielen Unternehmen, die die Problem der Desinformation und Deepfakes - Übersetzung im Aufkommen der generativen KI.
Viele der Einflusskampagnen seien frühzeitig entfernt worden, bevor ein Publikum aus echten Nutzern aufgebaut werden konnte, sagte Meta und fügte hinzu, dass es keine Strategien gesehen habe, die es daran hindern würden, die Netzwerke abzuschalten. Das Unternehmen sagte, es habe von KI generierte Fotos und Bilder, Video-Newsreader und Texte „beobachtet“. Meta sagte jedoch, es habe noch keinen Trend beobachtet, dass Bedrohungsakteure fotorealistische, von KI generierte Inhalte von Politikern verwenden.
„Im Moment sehen wir keine besonders raffinierte Nutzung der KI“, sagte David Agranovich, Metas Policy Director für Bedrohungsbekämpfung, am Dienstag. während einer Pressekonferenz, laut Bloomberg. „Aber wir wissen, dass diese Netzwerke von Natur aus feindlich sind. Sie werden ihre Taktiken entwickeln und damit auch ihre Technologie fortschreiten .“
Meta antwortete nicht sofort auf eine Bitte um einen Kommentar.
In seinem jüngsten Bericht erklärte Meta, es habe herausgefunden, dass Bedrohungsakteure immer noch Generative Adversarial Networks (GANs) verwenden, um Profilbilder für gefälschte Konten zu erstellen. Das Unternehmen könne jedoch die nicht authentischen Netzwerke hinter diesen Konten erkennen.
In China hat Meta eigenen Angaben zufolge ein Netzwerk gefunden, das Plakatbilder einer fiktiven pro-Sikh-Aktivistenbewegung teilte, die wahrscheinlich von einer künstlichen Intelligenz generiert wurden. Insgesamt wurden laut Meta 37 Facebook-Konten, 13 Seiten, fünf Gruppen und neun Instagram-Konten aus China entfernt. Das Netzwerk habe die Sikh-Gemeinde weltweit ins Visier genommen, darunter in Australien, Indien und Großbritannien.
Meta sagte, es habe ein in Israel ansässiges Netzwerk für koordiniertes unauthentisches Verhalten (CIB) entdeckt, das auf Seiten von Medienorganisationen und Persönlichkeiten des öffentlichen Lebens wahrscheinlich von KI generierte Kommentare über den Krieg zwischen Israel und der Hamas und die Nahostpolitik veröffentlichte. Die Kommentare, so Meta, wurden in der Datenbank der Website der Hamas veröffentlicht. sagte, waren größtenteils auf Englisch verfasst und enthielten „Lob für die militärischen Aktionen Israels“ und „Kritik am Antisemitismus auf den Campus, am Hilfswerk der UNRWA und an der Behauptung der Muslime, der ‚radikale Islam‘ stelle eine Bedrohung für die liberalen Werte in Kanada dar.“
Meta hat 510 Facebook-Konten, 11 Seiten, eine Gruppe und 32 Instagram-Konten aus Israel entfernt, die sich hauptsächlich an ein Publikum in den USA und Kanada richteten. Meta hat auch Facebook- und Instagram-Konten aus dem Iran gefunden, die sich gegen Israel richteten und hauptsächlich auf Hebräisch Beiträge veröffentlichten, in denen sie die Hamas kritisierten und die ultrakonservative israelische Politik unterstützten.
Zusätzlich zu diesen Netzwerken entfernte Meta 50 Facebook-Konten und 98 Seiten, die zu einem Netzwerk mit Sitz in Bangladesch gehörten, 104 Facebook-Konten, 39 Seiten und sieben Instagram-Konten mit Sitz in Kroatien sowie 1.326 Facebook-Konten, 80 Seiten, eine Gruppe und ein Instagram-Konto aus einem Netzwerk unbekannter Herkunft, das auf Zielgruppen in Moldawien und Madagaskar abzielte.
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier