Diese Geschichte ist Teil unserer neuen Chief Innovation Officer Prognose Serie mit Gizmodo, ein Wirtschaftsbericht von der Front der Zukunft.
Als generativ KI Technologien gelangen in die Hände der Öffentlichkeit und es wird immer schwieriger, Wahrheit von Lüge zu unterscheiden.
KI-Deepfakes haben ihren Weg in die Öffentlichkeit gefunden, da sie von Hackern, Highschool-Schülern und sogar Politikern eingesetzt werden. Teenager wurden verhaftet, weil sie Deepfake-Nacktbilder ihrer Klassenkameraden erstellt haben. Der Gouverneur von Florida. Ron DeSantis‘ inzwischen aufgelöste Präsidentschaftskampagne veröffentlichte Deepfakes von Donald Trump Kuss auf X letzten Sommer mit dem ehemaligen Direktor des National Institute of Allergy and Infectious Diseases Anthony Fauci on X. Eine von China unterstützte Online-Gruppe, „Spamoflauge“, verbreitete Videos von KI-generierten Nachrichtensprechern, die im Vorfeld der Präsidentschaftswahlen in Taiwan Falschmeldungen verbreiteten. Unter der Vermutung einer Forschergruppe bei Microsoft ist vermutet, dass China wahrscheinlich KI nutzen wird, um sich in die US-Präsidentschaftswahlen einzumischen.
Um das Vertrauen der Öffentlichkeit in einer Zeit unklarer Realitäten wiederherzustellen, haben große Unternehmen wie Meta und Google – sowie die Biden-Administration — ist das digitale Wasserzeichen. Solche Wasserzeichen betten Online-Inhalte mit Code ein, der für das menschliche Auge unsichtbar ist aber von Algorithmen erkannt werden kann, um ihn als Original oder KI-generiert zu kennzeichnen. Während manche sagen, dass der Ansatz unvollkommen ist oder dass es reicht nicht weit aus, um Deepfakes zu bekämpfen, es ist sicherlich ein Anfang.
Eric Wengrowski ist Mitbegründer und CEO von Steg.AI, einem Startup für digitale Wasserzeichen, das er 2019 nach Abschluss seiner Promotion in Computervision und Wasserzeichentechnologie gründete. Das Unternehmen verwendet digitale Wasserzeichen und Deep Learning zur Authentifizierung digitaler Medien. Wengrowski traf sich mit Quartz, um darüber zu sprechen, wie er StegAI gründete und warum er digitale Wasserzeichen für eine entscheidende Technologie hält.
Quartz: StegAI wurde gegründet, bevor die großen Technologieunternehmen aggressiv mit der Entwicklung von KI-Technologien begannen. Was hat Sie dazu motiviert, diese Idee in die Tat umzusetzen?
Eric Wengrowski: Ich habe an meiner Doktorarbeit gearbeitet, als die ursprünglichen „Deepfake“-Arbeiten an der Universität an Veröffentlichungen kamen. Und es ist wirklich coole und interessante Arbeit. Ich meine es war erstaunliche Wissenschaft und erstaunliche Ingenieursleistung. Und damals gab es natürlich die Erkenntnis, dass das etwas ist, das ethische Probleme haben könnte. Auswirkungen auf Land und Sicherheit, und wir sollten anfangen, darüber nachzudenken. Steg wurde von Grund auf dafür entwickelt, diese Probleme der Authentizität und des Vertrauens in die Medien mithilfe verantwortungsvoller KI anzugehen. Die Mission besteht darin, eine Infrastruktur bereitzustellen, um zu erkennen, was vertrauenswürdiger und authentischer Online-Inhalt ist.
Unsere Kunden sind Unternehmen, die auf generative KI setzen und ihre Inhalte als Deepfakes identifizieren möchten. Sie sind Fotografen und Kamerahersteller, die ihre Inhalte als organisch identifizieren möchten. Sie sind auch Unternehmen und Regierungen, die ganz deutlich sagen möchten: „Hey, das sind die offiziellen Inhalte.“
Wie hat sich die Branche im Laufe der Zeit verändert?
Als Steg 2019 gegründet wurde, ernteten wir jedes Mal, wenn wir Investoren oder sonst jemandem sagten, dass wir ein Wasserzeichenunternehmen seien, schiefe Blicke, etwa so: „Oh, Wasserzeichen, gab es das nicht schon in den 90ern? Warum macht ihr das jetzt?“ Und seit der Verbreitung von Deepfakes und seit das Weiße Haus eine klare Position zur Notwendigkeit eingenommen hat, Wasserzeichen als strategisch wichtige Technologie zur Bekämpfung von Fehlinformationen und Deepfakes einzuführen, haben sich die Dinge geändert und es sind mehr [digitale Wasserzeichen-]Unternehmen entstanden.
Können Sie über die Gefahren von Deepfakes sprechen?
Die Authentizität der Medien wurde schon immer manchmal in Frage gestellt, insbesondere, wenn sich eine politische Gelegenheit bot. Ich denke, der Unterschied besteht darin, dass man früher, um etwas Synthetisches und Überzeugendes zu schaffen, wirklich geschickt im buchstäblichen Kopieren und Einfügen sein musste. Oder man brauchte die Ressource es eines Filmproduktionsstudios. Mit der Erscheinung von Tools wie Photoshop nahm die Verbreitung von Fehlinformationen zu. Ich meine ich erinnere mich daran, Fotos des nordkoreanischen Militärs angeschaut zu haben, die mit Photoshop bearbeitet worden sind, um es auszusehen, als seine Armeen größer sind oder als ein bestimmter Führer am Leben und gesund ist.
Ich denke, der Unterschied besteht darin, dass die Kosten für die Erstellung sehr realistischer, aber potenziell irreführender Inhalte durch die KI und Deepfakes drastisch gesenkt wurden und das Problem der Verbreitung dieser Inhalte durch soziale Medien verschärft wurde. Es handelt sich also wirklich um ein Größenproblem.
Deepfakes sind so gut geworden – und sie werden immer besser –, dass Sehen nicht mehr bedeutet, es zu glauben. Man kann nicht einfach ein Bild oder ein Video ansehen und zuverlässig erkennen, ob es echt ist oder nicht. Wir brauchen eine Möglichkeit, dieses Vertrauensproblem in großem Maßstab zu lösen.
Warum ist Ihrer Meinung nach das Anbringen eines Wasserzeichens die Lösung?
Sie benötigen also eine Lösung [für Deepfakes], die in großem Maßstab funktioniert, und ein Wasserzeichen mit Inhaltsanmeldeinformationen ist eine solche Lösung. Ein KI-generiertes Bild mit einem Wasserzeichen, das [seine Quelle] mithilfe von … identifiziert. ein Inhaltsnachweis [Sagen Sie, ob es aus einem Algorithmus stammt und geben Sie vielleicht auch andere relevante Informationen darüber an, wer es erstellt hat. Das steigert den Wert dieses Inhalts; Sie wissen, dass Sie dem Ursprung vertrauen können.
Steg hat auf seinem Weg mit wirklich großartigen Partnerunternehmen zusammengearbeitet. Wir waren eines der ersten Mitglieder von C2PA, ein offener Standard [zur Erkennung sowohl von Original- als auch von KI-generierten Inhalten]. [Wir haben erkannt, dass es hier nicht wirklich ist, nur den weltbesten Deepfake-Detektor zu entwickeln. Sie möchten ein Inhaltsnachweis bereitstellen, der sich das Foto ansieht und den weiteren Leuten darüber mitteilt, wo der Ursprung ist.
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier