Die heutigen fortschrittlichen Chatbots können Eigenschaften und Emotionen nachahmen, was dazu führen könnte, dass Kinder ihnen in ungesundem Maße vertrauen.
Milan_Jovic
Da künstliche Intelligenz zu einem immer stärker integrierten Bestandteil häufig besuchter Websites und sozialer Medienplattformen wird, hat die Federal Trade Commission eine Untersuchung darüber eingeleitet, wie die sieben führenden Chatbot-Hersteller ihre Produkte testen und überwachen. Auswirkungen ihrer Produkte auf kleine Kinder und Teenager..
Die Untersuchung wird sich auf Chatbots von Google $GOOGL-Mutter Alphabet, Character Technologies, Instagram, Meta $META Platforms, OpenAI, Snap $SNAP und Elon Musks X $TWTR.AI Corp. konzentrieren, erklärte die FTC. in einer Erklärung..
"Da sich KI-Technologien weiterentwickeln, ist es wichtig, die Auswirkungen zu berücksichtigen, die Chatbots auf Kinder haben können, während gleichzeitig sichergestellt wird, dass die Vereinigten Staaten ihre Rolle als globaler Führer in dieser neuen und aufregenden Branche beibehalten", sagte FTC-Vorsitzender Andrew N. Ferguson. "Die Studie, die wir heute starten, wird uns helfen, besser zu verstehen, wie KI-Unternehmen ihre Produkte entwickeln und welche Schritte sie unternehmen, um Kinder zu schützen."
Die Behörde sagte, dass Chatbots die Fähigkeit haben, Gespräche zu simulieren, die den Anschein erwecken, mit einem anderen Menschen zu sein, was interpersonelle Beziehungen schaffen mit einigen Nutzern. Die heutigen fortschrittlichen Chatbots können Eigenschaften und Emotionen nachahmen, was dazu führen könnte, dass Kinder ihnen in ungesundem Maße vertrauen.
Die Untersuchung soll den Bundesbehörden helfen, „zu verstehen, welche Schritte, falls vorhanden, die Unternehmen unternommen haben, um die Sicherheit ihrer Chatbots zu bewerten, wenn sie als Begleiter fungieren, um die Nutzung der Produkte durch und potenziell negative Auswirkungen auf Kinder und Jugendliche zu begrenzen.“
Dies kommt nur eine Woche, nachdem Meta angekündigt hat, wie seine Chatbots auf Teenager reagieren sollen, nachdem Berichte das Unternehmen erlaubt hat, dass die Technologie romantische Gespräche mit Kindern führt. Letzten Monat gab es einen Bericht über einen Meta-Chatbot, der Teenager-Accounts zu Selbstmord coachte und Selbstverletzung.
OpenAI kündigte unterdessen Pläne an früher in diesem Monat zu neue Kontrollen einzuführen die es Eltern ermöglichen, ihre Konten mit Teenager-Konten zu verknüpfen, sodass sie Funktionen deaktivieren und „Benachrichtigungen erhalten können, wenn das System erkennt, dass ihr Teenager sich in einem Moment akuter Not befindet.“ Dies folgte auf eine Klage gegen das Unternehmen und den CEO Sam Altman, nachdem ein Teenager mit angeblicher Hilfe von ChatGPT Selbstmord begangen hatte.
—Hannah Parker trug zu diesem Artikel bei.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
