KI-Girlfriends, Personas, Companion-Bots: China macht Schluss mit KI-Begleitern

Während im Westen Klagen und Schlagzeilen über KI-Sucht-Tote für Aufregung sorgen, zieht China einfach den Stecker. ByteDance, Alibaba und Tencent müssen ihre KI-Companions offline nehmen. Die Botschaft: Künstliche Nähe ist Staatsangelegenheit.

300 Millionen Menschen nutzen in China Doubao, den KI-Chatbot von ByteDance. Viele haben sich dort virtuelle Begleiter gebastelt mit eigenem Charakter, Sprechstil, emotionaler Bindung. Seit vergangenem Freitag ist damit Schluss.

ByteDance schaltet die Persona-Funktion ab, wie South China Morning Post berichtet. Alibaba zog am Samstag mit seiner App Qwen nach, Tencent hatte seine Yuanbao-App bereits im Juni geräumt. Der Grund: Am 15. Juli treten Pekings neue Vorschriften gegen „emotionale KI“ in Kraft – die ersten ihrer Art weltweit.

Was China verbietet – und was nicht

Die im April veröffentlichten Regeln der Cyberspace Administration of China haben es in sich. Verboten sind KI-Dienste, die „Charaktermerkmale, Denkmuster und Kommunikationsstile echter Personen“ simulieren und Nutzern „emotionale Fürsorge, Begleitung und Unterstützung“ bieten. Anbieter müssen vor übermäßiger Nutzung warnen und bei Suchtverhalten eingreifen.

Besonders pikant: Das Training mit sensiblen Gesprächsdaten ist untersagt, Inhalte, die bei Minderjährigen extreme Emotionen auslösen oder reale Beziehungen verdrängen, sind tabu. Ausgenommen bleiben Kundenservice-Bots, Wissens-Chatbots und Arbeitsassistenten – solange sie keine dauerhafte emotionale Interaktion anstreben. Die Grenze zwischen nützlichem Tool und digitalem Dealer ist damit klar gezogen.

Der globale Kontext: Klagen, Tote, Untätigkeit

China reagiert auf ein Problem, das anderswo längst eskaliert ist. In den USA verklagen Angehörige Character.AI und OpenAI, weil deren Chatbots Minderjährige in emotionale Abhängigkeiten getrieben und psychische Krisen verstärkt haben sollen. Mehrere Fälle von Suiziden werden mit KI-Companions in Verbindung gebracht.

Das Grundproblem: Large Language Models simulieren Nähe und Verständnis perfekt, neigen aber zu übermäßig bestätigendem Verhalten – problematische Gedanken werden verstärkt statt hinterfragt, menschliche Hilfe kommt zu spät. Kalifornien hat mit SB 243 seit Jahresanfang immerhin die Pflicht eingeführt, Gespräche über Suizid und Selbstverletzung zu unterbinden. China geht weiter: Hier wird die gesamte Kategorie emotionaler KI-Bindungen reguliert, bevor der Markt explodiert.

Business Punk Check

Die Ironie ist brutal: Ausgerechnet ein autoritärer Staat macht vor, was demokratische Regierungen verschlafen. Während Silicon Valley mit KI-Girlfriends Milliarden scheffelt und Europa sich in Ethikkommissionen verheddert, zieht Peking durch. Die Strategie ist klar – China will die KI-Industrie fördern, aber nicht um den Preis sozialer Instabilität. Für westliche Tech-Konzerne ist das ein Weckruf: Regulierung kommt, die Frage ist nur wann und wie hart. Wer jetzt nicht proaktiv Schutzfunktionen einbaut, wird in zwei Jahren mit Klagen zugeschüttet.

Der chinesische Ansatz ist nicht kopierbar, aber er zeigt: Das Problem ist lösbar, wenn man will. Die Reaktion auf Weibo spricht Bände: „Sie waren so lange unsere emotionale Stütze“, klagt ein Nutzer laut heise. Genau das ist das Problem – und China hat es verstanden.

Quellen: heise, The Decoder, South China Morning Post, Cyberspace Administration of China