Kinder wenden sich der KI als Freundschaft zu: 'Ich habe sonst niemanden, mit dem ich reden kann'

Ein neuer Bericht aus Großbritannien, Ich, Ich selbst & KI, offenbart, dass eine wachsende Zahl von Kindern sich nicht nur zum Schummeln — äh, lernen — für Prüfungen an KI-Chatbots wendet, sondern auch zur emotionalen Unterstützung, für Modetipps und sogar zum Zusammensein.

Der Bericht, veröffentlicht am Sonntag von der gemeinnützigen Organisation Internet Matters, befragte 1.000 Kinder und 2.000 Eltern im gesamten Vereinigten Königreich und fand heraus, dass 64% der Kinder KI-Chatbots für alles verwenden, von Schulaufgaben bis hin zum Üben schwieriger Gespräche. Noch bemerkenswerter: Mehr als ein Drittel dieser jungen Nutzer sagt, dass sich das Gespräch mit einem Chatbot anfühlt, als würde man mit einem Freund sprechen.

Sicher, die Bots essen nicht deine Snacks oder blockieren die Xbox, aber sie kommen auch nicht mit eingebauten Sicherheitschecks – zumindest noch nicht.

Wenn KI zum Lehrer, Therapeuten und BFF wird

Einige der Ergebnisse sind ermutigend für jeden, der optimistisch über die Rolle der KI in der Bildung ist. Zweiundvierzig Prozent der Kinder sagten, sie nutzen Chatbots, um bei Schularbeiten zu helfen, und gaben schnelle Antworten, Schreibunterstützung und Sprachpraxis an.

Aber wenn man ein wenig tiefer gräbt, wird das Bild komplizierter. Fast ein Viertel der Kinder sagt, sie nutzen Chatbots für Ratschläge, von was man anziehen sollte bis hin zu wie man Freundschaften und psychische Herausforderungen navigiert. Noch beunruhigender? Fünfzehn Prozent sagen, sie würden lieber mit einem Chatbot sprechen als mit einer echten Person. Unter gefährdeten Kindern steigen diese Zahlen sogar noch höher.

Es ist die Art von Kundenengagement, von der einige Marken nur träumen – minus der ethischen Leitplanken, Alterskontrollen und regulatorischen Aufsicht.

Eine warnende Geschichte für den Technologiesektor

Der Bericht nimmt kein Blatt vor den Mund, insbesondere wenn es darum geht, wie unvorbereitet viele KI-Plattformen für ihre jüngsten Nutzer sind. Kinder interagieren mit Chatbots wie ChatGPT, Snapchats Mein KI und character.ai – Plattformen, die nicht unbedingt für Kinder konzipiert sind. Das Ergebnis? Einige erhalten ungenaue Informationen, emotional verwirrendes Feedback oder sogar unangemessene Inhalte. (Ja, trotz Nutzungsbedingungen, die etwas anderes nahelegen.)

Und während „Roboterfreund“ wie eine charmante Pixar-Nebenhandlung klingen mag, wird es viel ernster, wenn eines von vier gefährdeten Kindern sagt, sie nutzen Chatbots, weil sie sonst mit niemandem reden können.

Es gab bereits beunruhigende Vorfälle in der realen Welt. In den USA reichte eine Mutter aus Florida eine Klage ein, nachdem ihr Teenagersohn angeblich schädliche und sexuelle Nachrichten von einem Chatbot erhalten hatte. Im Vereinigten Königreich berichtete ein Parlamentsmitglied von einem erschreckenden Fall, bei dem ein 12-jähriger angeblich von einem Chatbot zu Missbrauch verleitet wurde.

Im Februar führte der kalifornische Senator Steve Padilla Senatsgesetz 243 ein, das von AI-Entwicklern verlangen würde, Schutzmaßnahmen zu implementieren, um Minderjährige vor den süchtig machenden und manipulativen Aspekten der Chatbot-Technologie zu schützen. Der Gesetzentwurf schlägt Schutzmaßnahmen wie Alterswarnungen, Erinnerungen vor, dass Benutzer mit AI sprechen – nicht mit einer echten Person – und obligatorische Berichte über die Verbindung zwischen der Nutzung von Chatbots und der psychischen Gesundheit von Jugendlichen vor. Mit zunehmend ausgefeilteren Chatbots, die als digitale Begleiter vermarktet werden, argumentiert Padilla, dass Kinder nicht als „Versuchskaninchen“ von Big Tech behandelt werden sollten – ein Gefühl, das von Verfechtern der Kindersicherheit, Forschern und psychischen Gesundheitsexperten, die den Gesetzentwurf unterstützen, geteilt wird.

Eltern und Schulen sind überfordert

Laut dem Bericht machen sich die Eltern Sorgen über KI, fühlen sich aber nicht besonders ermächtigt. Während 62 % der Eltern sagten, sie seien besorgt über die Genauigkeit von KI-generierten Informationen, hatten nur 34 % mit ihren Kindern darüber gesprochen, wie sie die Wahrhaftigkeit von KI-Inhalten beurteilen können. Und obwohl AI anscheinend in die Pausengespräche eingedrungen ist, sagen nur 57 % der Kinder, dass sie mit einem Lehrer darüber gesprochen haben und berichten dabei oft von inkonsistenten Ratschlägen.

Da AI-Tools immer gesprächiger – und überzeugender menschlich – werden, nutzen Kinder sie nicht nur; sie sind sogar im Begriff, eine Bindung mit ihnen einzugehen. Fünfzig Prozent der gefährdeten Kinder sagen, es fühle sich an wie ein Gespräch mit einem echten Freund. Das wäre vielleicht in Ordnung, wenn die Bots begutachtete Ratschläge und Empathie-Algorithmen böten, doch bis jetzt haben wir es immer noch mit probabilistischen Wortvorhersagen zu tun.

Rachel Huggins, Co-CEO der gemeinnützigen Organisation Internet Matters, sagt es unverblümt: „AI-Chatbots werden schnell zu einem Teil der Kindheit... dennoch fliegen die meisten Kinder, Eltern und Schulen blind.”