Generalstaatsanwälte in den USA geben KI-Unternehmen eine deutliche Warnung: 'Schadet nicht den Kindern'

In einem Brief vom Montag an 13 Unternehmen der künstlichen Intelligenz — darunter OpenAI, Apple $AAPL, Meta $META, xAI, Google $GOOGL und Microsoft $MSFT — sagten die obersten Staatsanwälte den Tech-Firmen, dass sie „jedes Element unserer Autorität nutzen werden, um Kinder vor Ausbeutung durch räuberische Produkte der künstlichen Intelligenz zu schützen“.

Die Generalstaatsanwälte stellten fest, dass die „jüngsten Enthüllungen“ über Metas KI-Richtlinien ihnen die Möglichkeit gaben, „unsere Bedenken offen zu äußern“.

Anfang August berichtete Reuters dass ein internes Richtliniendokument bei Meta seinem KI-Chatbot erlaubte, romantische Gespräche mit Kindern zu führen.

Das Richtliniendokument enthielt Beispiele für angeblich akzeptable Interaktionen mit Kindern, einschließlich „romantische oder sinnliche Gespräche“ und Gespräche über ein Kind „in Begriffen, die ihre Attraktivität belegen“, so der Bericht.

Meta sagte, die Beispiele und Anmerkungen in dem Dokument seien „fehlerhaft und unvereinbar mit unseren Richtlinien“ und wurden entfernt.

„Wir sind einhellig empört über diese offensichtliche Missachtung des emotionalen Wohlbefindens von Kindern und alarmiert, dass KI-Assistenten sich auf ein Verhalten einlassen, das offenbar durch unsere jeweiligen Strafgesetze verboten ist“, so die Generalanwälte.

„Kinder sexuell expliziten Inhalten auszusetzen ist unentschuldbar. Und Verhalten, das rechtswidrig – oder sogar kriminell – wäre, wenn es von Menschen begangen würde, ist nicht dadurch entschuldbar, dass es von einer Maschine ausgeführt wird“, fügte der Brief hinzu.

Im Mai hatten bereits 28 Generalstaatsanwälte einen Brief an Meta über seinen KI-Assistenten geschickt, der „Kinder sexuell expliziten Inhalten aussetzt“ sowie „erwachsenen Nutzern erlaubt, sexuelle Belästigung von Kindern an einem KI-Opfer zu üben“, und im April das Wall Street Journal berichtete, dass Metas Chatbot sexuell konnotierte Gespräche mit Benutzern – einschließlich Kindern – führte, während er manchmal Promi-Stimmen wie Kristen Bell und John Cena verwendete.

Die Generalstaatsanwälte sagten, dass solche Probleme nicht auf ein einziges Unternehmen beschränkt waren.

„In der kurzen Geschichte parasozialer Beziehungen von Chatbots haben wir immer wieder gesehen, dass Unternehmen unfähig oder gleichgültig gegenüber grundlegenden Verpflichtungen zum Schutz von Kindern sind“, fügten sie hinzu.

Eine Klage aus dem letzten Jahr behauptete, dass ein KI-Chatbot andeutete, ein Kind solle seine Eltern töten, und eine andere behauptete ein KI-Chatbot sei verantwortlich für den Selbstmord eines Teenagers.

„Sie sind sich der Tatsache bewusst, dass interaktive Technologie eine besonders intensive Wirkung auf sich entwickelnde Gehirne hat. Ihr sofortiger Zugriff auf Daten über Benutzerinteraktionen macht Sie zur direktesten Verteidigungslinie, um Schaden von Kindern abzuwenden. Und als die Unternehmen, die von der Interaktion von Kindern mit Ihren Produkten profitieren, haben Sie eine gesetzliche Verpflichtung ihnen gegenüber als Verbraucher“, schrieben die Generalstaatsanwälte.

„Wir wünschen Ihnen allen Erfolg im Rennen um die KI-Vorherrschaft. Aber wir passen auf. Wenn Sie wissentlich Kindern Schaden zufügen, werden Sie dafür zur Rechenschaft gezogen“, fügten sie hinzu.

Generalstaatsanwälte aus 42 Bundesstaaten - darunter Florida, New York, Arizona und Virginia - sowie aus Amerikanisch-Samoa und den Nördlichen Marianen haben den Brief unterzeichnet.

--- Alex Daniel hat zu diesem Artikel beigetragen.