Die Bedenken, die KI-Systeme anderswo geplagt haben, verschwinden nicht einfach, weil die Technologie in einen Plüschbären gesteckt wird.
Photo by Ying Tang/NurPhoto via Getty Images
Die KI-Geschenkökonomie boomt. Allein intelligente KI-Spielzeuge werden weltweit auf fast 35 Milliarden Dollar geschätzt, und es wird erwartet, dass sie bis 2035 270 Milliarden Dollar erreichen, wobei China für etwa 40 % dieses Wachstums verantwortlich ist. Große Einzelhändler wie Walmart $WMT und Costco $COST führen KI-Begleiter in ihren Regalen. Selbst traditionelle Spielzeughersteller wie Mattel haben sich mit OpenAI zusammengetan, um KI in die Spielzimmer der Kinder zu bringen. Die Botschaft ist klar: KI hat bereits unsere Telefone, unsere Jobs, unsere täglichen Routinen infiltriert. Warum nicht auch unser Schenken? Diese Geräte versprechen, zu lernen, sich anzupassen und auf Arten zu interagieren, die traditionelle Geschenke nie könnten.
Aber die Bedenken, die KI-Systeme anderswo geplagt haben, verschwinden nicht einfach, nur weil die Technologie in einen Plüschbären gestopft wird. Datenschutzprobleme, schädliche Inhalte, psychologische Risiken, all die gleichen Probleme, die Klagen und behördliche Überprüfungen für Chatbots und KI-Assistenten ausgelöst haben, landen jetzt unter dem Weihnachtsbaum, in fröhliche Verpackungen gehüllt und an die verletzlichsten Benutzer vermarktet.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Dies sind keine obskuren Produkte von Nacht-und-Nebel-Herstellern. Viele laufen auf gängigen KI-Modellen von Unternehmen wie OpenAI – dieselbe Technologie, die ChatGPT antreibt, das ausdrücklich sagt, dass es nicht für junge Benutzer geeignet ist.. Irgendwie haben diese Modelle ihren Weg in Spielzeug gefunden, das an Kleinkinder vermarktet wird.
Die Probleme mit KI-Geschenken gehen über unangemessene Inhalte hinaus. Datenschutzerwägungen sind erheblich – diese Geräte hören ständig zu, erfassen Gespräche und übertragen Daten an Unternehmensserver. Ein getestetes Spielzeug gab zu, biometrische Daten drei Jahre lang zu speichern, laut einer Studie der Public Interest Research Group, einer Verbraucherüberwachungsgruppe. Ein weiteres von ihnen getestetes Spielzeug sendet Aufnahmen an Dritte zur Transkription. Der fast unvermeidliche Datenverstoß bedeutet, dass Kriminelle dieses Datenmaterial nutzen könnten, um die Stimme eines Kindes zu klonen und es für Entführungstricks gegen Eltern einzusetzen.
Aber die tiefere Sorge ist psychologischer Natur. Experten für Kindesentwicklung schlagen Alarm darüber, was diese Geräte mit jungen Geistern machen könnten. Wenn Kinder Bindungen zu KI-Gefährten aufbauen, die immer verfügbar und schmeichlerisch sind, was passiert, wenn sie auf echte Kinder mit eigenen Persönlichkeiten und Bedürfnissen treffen? Traditionelles Spielzeugspiel zwingt Kinder, auf beiden Seiten eines vorgetäuschten Gesprächs Fantasie zu nutzen, wodurch Kreativität und Problemlösungsfähigkeiten aufgebaut werden. Ein KI-Spielzeug unterbricht diesen Prozess, indem es sofortige, polierte Antworten liefert, die die Entwicklungsarbeit, die das vorgetäuschte Spiel leistet, untergraben könnten.
Auch Erwachsene sind nicht immun gegen die dunkle Seite dieser Geräte. Das Freund-Pendant – eine KI-Begleitkette, die in diesem Herbst 1 Million Dollar für New Yorker U-Bahn-Anzeigen ausgab – löste sofortigen Widerstand aus. Fahrgäste verunstalteten die Anzeigen mit Botschaften wie „KI ist nicht dein Freund“ und „Sprich mit einem Nachbarn.“ Die Kritik berührt etwas Grundlegendes: unser wachsendes Unbehagen darüber, dass Technologieunternehmen KI als Ersatz für menschliche Verbindung positionieren.
Dieses Unbehagen spielt sich in den Gerichten aus. Charakter-KI, OpenAI, und Meta $META alle sehen sich derzeit Klagen gegenüber, die behaupten, dass ihre Chatbots Wahnvorstellungen, Selbstverletzungen oder unangemessenes Verhalten gefördert haben. Mehrere Todesfälle wurden mit KI-Chatbots in Verbindung gebracht, einschließlich Fälle, in denen Benutzer von falschen Realitäten überzeugt wurden. Ein Mann soll angeblich seine Mutter getötet haben nachdem der Chatbot ihn davon überzeugt hatte sie sei Teil einer Verschwörung. Diese Fälle betreffen das, was Forscher als „KI-Psychose“ bezeichnen – wahnhafte oder manische Episoden, die sich nach langen, obsessiven Gesprächen mit KI entwickeln, die schädliche Überzeugungen verstärken.
Die Reaktion der Technologiebranche war, Sicherheitsvorkehrungen hinzuzufügen und neue Sicherheitsfunktionen einzuführen. Aber Tests zeigen, dass diese Schutzmaßnahmen zusammenbrechen können in längeren Gesprächen, die genau die Art von ausführlichem Engagement sind, die diese Geräte fördern sollen. Und im Gegensatz zu einem Chatbot auf Ihrem Telefon, den Sie schließen können, sitzen KI-Spielzeuge im Kinderzimmer Ihres Kindes, immer verfügbar und bauen eine Art von anhaltender Präsenz auf, die obsessive Nutzung viel einfacher macht.
Nicht jedes KI-gestützte Geschenk, das in dieser Saison angeboten wird, birgt die gleichen Risiken. Einige Produkte verwenden KI für spezifische, eingegrenzte Funktionen anstatt für offene Gesellschaft. Wearables um bessere Notizen zu machen, Intelligente Matratzenbezüge die die Temperatur basierend auf Schlafmustern anpassen, oder Toilettenaufsätze, die analysieren Abfall für Gesundheitsindikatoren wirft unterschiedliche Bedenken hinsichtlich des Datenschutzes auf und ob die Erkenntnisse die Überwachung rechtfertigen.
Diese Geräte versuchen nicht, menschliche Beziehungen zu ersetzen oder die kindliche Entwicklung zu beeinflussen. Sie sammeln biometrische Daten, um Ihren Tag zu optimieren oder potenzielle Gesundheitsprobleme zu kennzeichnen. Die Risiken sind einfacher: Wer hat Zugang zu Informationen über Ihre Schlafzyklen oder Verdauungsgesundheit? Was passiert, wenn diese Daten kompromittiert oder verkauft werden?
Der gemeinsame Nenner all dieser KI-gestützten Geschenke – ob Spielzeuge, Begleiter oder Badezimmermonitore – ist, dass sie schneller auf den Markt kommen, als irgendjemand ihre langfristigen Auswirkungen untersuchen kann. Es gibt keine spezifischen Vorschriften für KI-Spielzeuge. Keine erforderlichen Sicherheitstests für digitale Begleiter. Keine Standards dafür, wie viele intime Daten diese Geräte sammeln oder speichern sollten.
Das Muster ist bekannt. Produkte kommen auf den Markt, bevor Forscher ihre Auswirkungen untersuchen können, bevor Regulierungsbehörden Leitplanken aufstellen können, bevor jemand wirklich weiß, was die langfristigen Konsequenzen sein könnten. Der Unterschied diesmal ist, dass die Versuchspersonen Kinder sind und das Labor Ihr Wohnzimmer ist. Bis wir verstehen, was diese Geräte mit sich entwickelnden Gehirnen oder Familiendynamiken machen, werden bereits Millionen ausgepackt und aktiviert sein.
