Neue chinesische Vorschriften, die am 15. Juli in Kraft treten sollen, zwingen ByteDance und Alibaba Group Holding dazu, Werkzeuge einzustellen, die es Nutzern ermöglichen, personalisierte KI-Begleitfiguren zu erstellen und mit ihnen zu interagieren.
Eine von Bloomberg überprüfte In-App-Benachrichtigung enthüllte, dass Doubao, ByteDances KI-Chatbot und der am weitesten verbreitete in China, plant, seine Personalisierungsfunktion zu entfernen, wenn die Regeln in Kraft treten. Alibabas Qwen hat eine ähnliche Warnung herausgegeben. Auch Tencent Holdings' Yuanbao hat laut der South China Morning Post.
vor der Rücknahme den Nutzern Zugriff auf Listen von KI-Agenten gegeben, die auf bestimmte Fähigkeiten, Themen und Konversationstöne zugeschnitten werden konnten – sei es von der Firma selbst oder von den Nutzern erstellt. Laut der South China Morning Post konnte jemand mit diesen Werkzeugen einen Chatbot so konfigurieren, dass er eine beständige Identität annimmt, wie zum Beispiel ein Nachhilfelehrer, ein Rollenspielcharakter oder ein benannter persönlicher Begleiter. Zu den Formaten, die auf chinesischen Plattformen an Popularität gewannen, gehörten romantische KI-Partner, therapiestilartige Bots, die ohne professionelle Lizenzierung operierten, und Chatbot-Personen, die nach prominenten Popfiguren modelliert waren.
Die Änderungen werden durch die im April veröffentlichten und ab dem 15. Juli geltenden Zwischenmaßnahmen zur Verwaltung von anthropomorphen Interaktionsdiensten mit künstlicher Intelligenz vorangetrieben. Laut der South China Morning Post gilt der Rahmen für KI-Produkte, die darauf ausgelegt sind, zu replizieren, wie Menschen denken, sprechen und sich präsentieren, um laufende emotional orientierte Interaktionen mit Nutzern aufrechtzuerhalten. Die Cyberspace Administration of China steht hinter dem neuen Rahmenwerk, so Bloomberg.
Die neuen Vorschriften verbieten Inhalte, die darauf abzielen, starke emotionale Reaktionen bei Minderjährigen auszulösen, sowie jegliches KI-Verhalten, das Bindungen schafft, die stark genug sind, um reale Beziehungen zu ersetzen. Unternehmen dürfen auch keine privaten Benutzerunterhaltungen verwenden, um ihre Modelle zu trainieren. Regulierungsbehörden sagen, dass die Vorschriften Bedenken wie Radikalisierung, Datenschutz, psychologische und physische Schäden sowie zwanghafte Nutzung ansprechen. Die Vorschriften machen eine Ausnahme für Werkzeuge mit praktischen Anwendungen, wie z.B. Kundenbetreuung, Beantwortung von Fragen, Unterstützung bei Arbeitsaufgaben oder Unterstützung beim Lernen und Forschen, solange sie nicht für eine dauerhafte emotionale Bindung konzipiert sind.
Diese Vorschriften zeigen eine breitere Besorgnis über die psychologischen Auswirkungen von konversationellen KIs. In den Vereinigten Staaten haben Regulierungsorgane und Klagen ähnliche Themen aufgeworfen. Rechtliche Schritte gegen OpenAI und das von Alphabet $GOOGL unterstützte Character.AI behaupten, dass ihre Chatbots schädliche emotionale Bindungen gefördert haben und im schlimmsten Fall mit dem Tod von gefährdeten Personen in Verbindung gebracht wurden.
Chinas Überprüfung der KI-Gesellschaft erstreckt sich über Software hinaus. Unter Berufung auf einen Bericht der People's Daily stellte Bloomberg fest, dass ein Paar chinesischer Robotik-Handelsverbände stärkere ethische Standards gefordert haben, um die physische Seite der KI-Intimität zu regeln und mit einer Welle von Begleit- und humanoiden Robotern zusammenfällt, die auf den Verbrauchermarkt kommen.
Peking hat sich positioniert sich als Befürworter globaler KI-Governance-Rahmen, indem es gleichzeitig ein weltweites KI-Kooperationsgremium fordert und inländische KI-Hardware aufbaut, um die Abhängigkeit von US-Chips zu verringern. Die neuen Vorschriften für Begleit-KI fügen diesem Bild eine bedeutende verbraucherorientierte Einschränkung hinzu, indem sie einschränken, wie große Plattformen emotional ansprechende Funktionen bereitstellen können, selbst wenn sie stark in KI über ihre Produktlinien hinweg investieren.