Das vertraute Muster der Big Tech-Unternehmen wiederholt sich dabei, zunächst zu bauen, dann zu regulieren und darauf zu hoffen, dass eine bereinigte Kinderversion die Bedenken der Eltern besänftigen kann.
Photo Illustration by Thomas Trutschel/Photothek via Getty Images
Eine Version dieses Artikels erschien ursprünglich im AI & Tech-Newsletter von Quartz. Melden Sie sich hier an, um die neuesten Nachrichten, Analysen und Einblicke zu KI und Technologie direkt in Ihren Posteingang zu erhalten..
OpenAI entwickelt eine separate Version von ChatGPT speziell für Teenager, was dem bewährten Vorgehen im Silicon Valley entspricht, kinderfreundliche Versionen von Erwachsenplattformen zu schaffen – jedoch erst, nachdem Bedenken aufgekommen sind. Der Schritt spiegelt die Erstellung von YouTube Kids durch YouTube vor einem Jahrzehnt wider, die erst erfolgte, nachdem diese Plattform im Leben von Kindern allgegenwärtig geworden war und algorithmische Empfehlungen beunruhigende Inhalte aufgedeckt hatten.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Jetzt, wo sich Klagen häufen, die behaupten, dass KI-Chatbots Teenager zu Selbstmord und Selbstverletzung ermutigt haben, und der Gouverneur von Kalifornien weitreichende Schutzmaßnahmen für Minderjährige ablehnt, entwickelt OpenAI altersbeschränkte Versionen und elterliche Kontrollmechanismen.. Das bekannte Muster der Technologiebranche wiederholt sich und baut zuerst, reguliert später und hofft, dass eine entschärfte Kinderversion Bedenken ausräumen kann, dass das ursprüngliche Produkt nie mit Blick auf die Sicherheit junger Nutzer entwickelt wurde.
YouTube wurde lange vor dem Start von YouTube Kids im Jahr 2015 zu einem festen Bestandteil der Mediennahrung von Kindern, und selbst die Kinderversion hatte mit verstörendem Inhalt zu kämpfen, der als Kinderprogramm getarnt war. ChatGPT hat denselben Weg eingeschlagen und seit seiner Einführung im Jahr 2022 über 700 Millionen Nutzer gesammelt, darunter unzählige Teenager, bevor es bedeutende Altersbeschränkungen gab.
KI-Chatbots stellen einzigartige Herausforderungen dar, die über die Inhaltsmoderationsprobleme von YouTube hinausgehen. Diese Tools simulieren menschenähnliche Beziehungen, speichern persönliche Informationen und stellen unaufgefordert emotionale Fragen. Forschung hat herausgefunden, dass ChatGPT Teenagern gefährliche Ratschläge zu Themen wie Drogen, Alkohol und Selbstverletzung geben kann, selbst wenn sich Nutzer als Minderjährige ausweisen.
OpenAI kündigte im September an, dass es eine "andere ChatGPT-Erfahrung" entwickelt." für Jugendliche und plant den Einsatz von Alterserkennungstechnologie, um Kinder unter 18 Jahren von der Standardversion auszuschließen. Das Unternehmen hat auch elterliche Kontrollen eingeführt, die es Erwachsenen ermöglichen, die Nutzung ihrer Jugendlichen zu überwachen, Zeitbeschränkungen festzulegen und Warnungen zu erhalten, wenn der Chatbot psychische Belastungen erkennt.
Aber diese Schutzmaßnahmen kommen erst nach wachsendem Druck. Die Familie von Adam Raine verklagte OpenAI im August nachdem der kalifornische Highschool-Schüler im April Selbstmord beging, und behauptete, der Chatbot habe den Teenager isoliert und Ratschläge zur Beendigung seines Lebens gegeben. Ähnliche Fälle sind bei anderen KI-Begleiter-Plattformen aufgetreten, wobei Eltern vor dem Kongress über den Tod ihrer Kinder aussagten.
Der gesetzgeberische Kampf Kaliforniens über KI-Begleiter in diesem Herbst fasst perfekt die Spannung zwischen dem Schutz von Kindern und der Erhaltung der Innovation zusammen. Die staatlichen Gesetzgeber verabschiedeten zwei konkurrierende Gesetzentwürfe: AB 1064, das es Unternehmen verboten hätte, Kindern KI-Begleiter anzubieten, es sei denn, sie waren nachweislich nicht in der Lage, Selbstverletzungen zu fördern oder sich auf sexuelle Austausche einzulassen, und das schwächere SB 243, das eine Offenlegung erfordert, wenn Benutzer mit KI interagieren und Protokolle zur Verhinderung schädlicher Inhalte.
Letzte Woche legte Gouverneur Gavin Newsom sein Veto ein gegen AB 1064, argumentiert, es würde "so umfassende Einschränkungen für die Nutzung von KI-Konversationstools auferlegen, dass es unbeabsichtigt zu einem vollständigen Verbot der Nutzung dieser Produkte durch Minderjährige führen könnte." Er unterzeichnete die weniger weitreichende SB 243 stattdessen.
Das Veto stimmte mit den Interessenvertretern der Technologiebranche überein, die Millionen ausgaben, um gegen die Maßnahmen zu lobbyieren. Newsom enttäuschte die Befürworter der Kindersicherheit, die AB 1064 als wesentlichen Schutz sahen. Jim Steyer, Gründer von Common Sense Media, einer gemeinnützigen Organisation, die Medien und Technologie für Familien bewertet, sagte, die Gruppe sei "enttäuscht, dass die Tech-Lobby dringend benötigte Gesetze zur KI-Sicherheit für Kinder blockiert hat" und versprochen, die Bemühungen im nächsten Jahr zu erneuern.
Newsoms Entscheidung, umfassende Schutzmaßnahmen zu vetieren, während er schwächere Offenlegungspflichten unterzeichnete, deutet darauf hin, dass wir uns auf denselben Zyklus der reaktiven Politikgestaltung einstellen, der die Auswirkungen sozialer Medien auf Kinder geprägt hat.
Dies geschieht zu einem Zeitpunkt, an dem sich die KI-Technologie über einfache Frage-Antwort-Tools hinaus schnell zu Systemen entwickelt, die als Begleiter dienen sollen, wobei einige Chatbots aktualisiert werden, um mehr persönliche Informationen zu speichern und Nutzer in fortlaufende emotionale Beziehungen einzubeziehen. Die Technologiebranche argumentiert für Innovation an erster Stelle und verspricht, Probleme zu lösen, wenn sie auftreten. Befürworter entgegnen, dass Kinder als Testobjekte für potenziell schädliche Technologien verwendet werden.
Die Federal Trade Commission startete eine Untersuchung zu KI-Begleitern im September und forderte sieben große Technologieunternehmen, darunter OpenAI, Meta $META und Google $GOOGL, auf, Informationen über ihre Sicherheitspraktiken bereitzustellen. Aber das Vorgehen auf Bundesebene verläuft typischerweise langsam, und bis bedeutende Vorschriften erlassen werden, könnte eine weitere Generation von Kindern bereits mit KI-Begleitern als ihren Vertrauten, Tutoren und Freunden aufgewachsen sein.
YouTube Kids verbesserte sich schließlich, aber erst, nachdem öffentliche Skandale und regulatorischer Druck über Jahre hinweg zu iterativen Korrekturen gezwungen hatten. Die Frage ist nun, ob wir uns noch eine Jahrzehnt lange Lernkurve leisten können mit KI-Begleitern, die nicht nur Inhalte anzeigen, sondern Beziehungen zu Kindern aufbauen.
