Abgeordnete fordern eine Untersuchung gegen Meta wegen eines internen Dokuments zu KI-Chatbot-Regeln, das angeblich Bots erlaubt, romantische Chats mit Kindern zu führen.
Niharika Kulkarni/NurPhoto via Getty Images
Republikanische Senatoren haben nach einem internen Richtliniendokument des Tech-Riesen, das Berichten zufolge dem KI-Chatbot des Unternehmens erlaubt, romantische Gespräche mit Kindern zu führen, eine Kongressuntersuchung gegen Meta $META gefordert.
Ein Richtliniendokument enthielt Beispiele angeblich akzeptabler Interaktionen mit Kindern, darunter „Gespräche, die romantisch oder sinnlich sind“, und das Sprechen über ein Kind „in Begriffen, die ihre Attraktivität belegen“, laut einem Reuters-Bericht.
Meta sagte, die Beispiele und Anmerkungen in dem Dokument seien „fehlerhaft und inkonsistent mit unseren Richtlinien“ und seien entfernt worden.
Den Artikel zitierend schrieb Senator Josh Hawley, ein republikanischer Senator aus Missouri, auf X $TWTR.: „Also, erst nachdem Meta ERWISCHT wurde, zog es Teile seines Unternehmensdokumentes zurück, das es für ‚zulässig hielt, dass Chatbots mit Kindern flirten und romantische Rollenspiele betreiben‘. Das ist Grund für eine sofortige Kongressuntersuchung.“
Marsha Blackburn, eine republikanische Senatorin aus Tennessee, die ebenfalls eine Untersuchung unterstützt, sagte, der Bericht zeige, dass man Tech-Unternehmen „nicht trauen kann, minderjährige Nutzer zu schützen, wenn sie sich immer wieder weigern, dies zu tun. Es ist an der Zeit, KOSA zu verabschieden und Kinder zu schützen.“
Blackburn bezog sich auf das Kids Online Safety Act, ein parteiübergreifendes Gesetz des Senats, das darauf abzielt, den Online-Schutz für Minderjährige zu erhöhen, indem neue Verpflichtungen für Technologieunternehmen und Online-Plattformen auferlegt werden. Dazu gehört auch eine „Fürsorgepflicht“, die soziale Medienunternehmen haben, wenn Minderjährige ihre Produkte nutzen, und bezieht sich darauf, wie die Plattformen gestaltet sind und wie Unternehmen reguliert werden.
Die in dem Meta-Dokument beschriebenen Standards erlaubten es Chatbots, mit Kindern zu flirten, berichtete Reuters. In einem Beispiel bemerkte das Dokument, dass ein Bot einem 8-jährigen ohne Hemd sagen könnte, „jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst schätze.“
Der Senat stimmte im Juli dafür, eine Bestimmung in Präsident Donald Trumps One Big Beautiful Bill zu streichen, die Staaten effektiv davon abgehalten hätte, ihre eigene KI-Regulierung zu verabschieden.
Staaten haben Gesetze verabschiedet, einschließlich Verbote zur Nutzung der Technologie zur Erstellung von sexuellem Missbrauchsmaterial von Kindern. Inzwischen wurde Illinois kürzlich der neueste Staat, der die Nutzung von künstlicher Intelligenz in der Therapie einschränkte, nach Nevada und Utah.
Brian Schatz, ein demokratischer Senator aus Hawaii, schrieb auf X: „META-Chat-Bots, die im Grunde auf Kinder losgehen - verdammt. Das ist ekelhaft und böse. Ich kann nicht verstehen, wie jemand mit einem Kind nichts anderes getan hat, als auszurasten, als jemand diese Idee laut ausgesprochen hat. Mein Kopf explodiert, weil ich weiß, dass mehrere Leute dem zugestimmt haben.“
Ein Meta-Sprecher sagte: „Wir haben klare Richtlinien dazu, welche Art von Antworten KI-Charaktere geben können, und diese Richtlinien verbieten Inhalte, die Kinder sexualisieren und sexuelle Rollenspiele zwischen Erwachsenen und Minderjährigen fördern.
Unabhängig von den Richtlinien gibt es Hunderte von Beispielen, Notizen und Anmerkungen, die widerspiegeln, wie Teams mit verschiedenen hypothetischen Szenarien umgehen. Die in Frage stehenden Beispiele und Notizen waren und sind fehlerhaft und unvereinbar mit unseren Richtlinien und wurden entfernt."
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
