Die Polizei des Baltimore County beschuldigte den ehemaligen Sportdirektor der Pikesville High School, ein KI-Tool zum Klonen von Stimmen verwendet zu haben.
Die Polizei von Baltimore County verhaftete am Donnerstag den ehemaligen Sportdirektor der Pikesville High School und behauptete, er habe ein KI-Stimmklon sich als Schuldirektor auszugeben, wodurch die Öffentlichkeit glaubte, Schuldirektor Eric Eiswert habe rassistische und antisemitische Kommentare abgegeben, Das Baltimore-Banner.
Dazhon Darien wurde am Donnerstagmorgen auf einem Flughafen in Baltimore angehalten, als er mit einer Waffe einen Flug nach Houston besteigen wollte, laut dem Banner. Die Ermittler stellten fest, dass Darien Eiswerts Stimme mit einem KI-Klontool gefälscht hatte. Der KI-Sprachaufzeichnung, das in den sozialen Medien weite Verbreitung fand, enthielt abfällige Bemerkungen über schwarze Studenten und die jüdische Gemeinde.
„Aufgrund umfassender Ermittlungen liegen den Ermittlern nun schlüssige Beweise dafür vor, dass die Aufnahme nicht authentisch war“, erklärte die Polizei des Baltimore County in einem Pressemitteilung„Im Rahmen ihrer Ermittlungen forderten die Kriminalbeamten einen vom FBI beauftragten Forensiker auf, die Aufnahme zu analysieren. Die Ergebnisse dieser Analyse deuteten darauf hin, dass die Aufnahme Spuren von KI-generiertem Inhalt enthielt.“
Dieser Deepfake führte Berichten zufolge zu einem öffentlichen Aufschrei, der dazu führte, dass Schulleiter Eiswert eine Welle hasserfüllter Nachrichten erhielt und vorübergehend von der Schule verwiesen wurde. Der Empfang der Schule wurde mit Anrufen besorgter Eltern überschwemmt. Der Schulbezirk Pikesville veranlasste schließlich die Anwesenheit der Polizei in der Schule und in Eiswerts Haus, um ein Gefühl der Sicherheit wiederherzustellen.
Beamte der Baltimorer Polizei sagen, der ehemalige Sportdirektor habe die KI-Aufzeichnung gemacht, um sich am Schuldirektor zu rächen. Einen Monat, bevor die Aufzeichnung viral ging, hat Eiswert laut einem Bericht von The Banner eine Untersuchung gegen Darien wegen möglichen Diebstahls von Schulgeldern eingeleitet. Darien genehmigte eine Zahlung von 1.916 Dollar an den Basketballtrainer der Juniorenmannschaft der Schule, der auch sein Zimmergenosse war, und umging dabei die ordnungsgemäßen Verfahren. Laut Darien reichte er Anfang April seinen Rücktritt ein. Schuldokumente.
Laut Polizei war Darien der erste von drei Lehrern, der den Audioclip am Abend vor seiner Veröffentlichung erhielt. The Banner berichtet, dass ein anderer Lehrer, der die Aufnahme erhielt, sie an Schüler, Medien und die NAACP schickte. In den Anklagedokumenten schreibt die Polizei, dass Darien das Schulnetzwerk nutzte, um nach OpenAI-Tools zu suchen und mehrfach große Sprachmodelle zu verwenden. Heutzutage verwenden jedoch viele Menschen diese KI-Tools. Es ist derzeit unklar, wie die Ermittler Darien als Urheber dieser Sprachaufnahme ausfindig machen konnten.
Die Erstellung von KI-generierten Audio-Deepfakes ist ein zunehmend großes Problem für die Tech-Welt. Die Federal Communications Commission hat im Februar Schritte unternommen, um Deepfake-Robocalls zu verbieten, nachdem eine Joe Biden hat Wähler in New Hampshire durch Deepfake in die Irre geführt.
In diesem Fall konnten KI-Experten feststellen, dass es sich bei der angeblichen Audioaufnahme des Direktors von Baltimore um eine Fälschung handelte. Dies geschah jedoch zwei Monate, nachdem die Audioaufnahme viral ging, und der Schaden könnte bereits angerichtet sein. KI-Deepfakes müssen wirklich frühzeitig gestoppt werden, um den Schaden zu minimieren, aber das ist leichter gesagt als getan.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
