Chinas Riegel gegen romantische Chatbots
China geht gegen KI-Bots vor, die dauerhafte emotionale und romantische Beziehungen zwischen Menschen und KI simulieren.
Am 10. April 2026 erließen fünf chinesische Behörden, darunter die Cyberspace-Verwaltung, die „Vorläufigen Maßnahmen zur Verwaltung anthropomorpher KI-Interaktionsdienste“. Seit dem 15. Juli gelten sie. Geregelt sind Systeme, die Persönlichkeit sowie Denk- und Sprechweise von Menschen nachahmen und über Text, Bild, Ton oder Video dauerhafte emotionale Begleitung anbieten. Kundenservice, Arbeitsassistenten, Bildung und Forschung bleiben außen vor – solange sie keine Beziehung simulieren.
Die KI-„Partner“ sind ein wachsender Trend; China hat dem nun einen Riegel vorgeschoben. „Virtuelle Partner“ und „virtuelle Verwandte“ sind unter 18 Jahren verboten, Kinder unter 14 brauchen für jede menschenähnliche Begleitung die Erlaubnis der Eltern. Auch bei Erwachsenen wird reguliert: Die KI darf keine Abhängigkeit, Sucht oder das Ersetzen realer Bindungen fördern.
Anbieter müssen klarstellen, dass eine Maschine spricht, nach zwei Stunden Nutzungszeit warnen, bei Krisen eingreifen und Chatdaten nicht ungefragt zum Training nutzen. Ab einer Million Registrierungen oder 100.000 monatlich Aktiven droht eine Sicherheitsprüfung. Bußen reichen bis 200.000 Yuan, wenn Gesundheitsschäden entstehen.
Pekings Regulierung hatte schnell Folgen: Chinas Big Tech – Doubao (ByteDance, rund 345 Millionen monatliche Nutzer), Qwen (Alibaba) und Yuanbao (Tencent) – schaltete Persona- und Companion-Funktionen ab, statt die Auflagen in den Massen-Chatbots umzusetzen.
Peking begründet den Schritt mit dem Schutz der psychischen Gesundheit und mit Jugendschutz. Parteimedien und Forscher der Cyberspace-Akademie warnen, dauernd nachgiebige Bots stumpften Empathie ab und zögen Menschen aus realen Kreisen. In Zeiten radikaler Vereinsamung sind das logische Erklärungen. Simulierte Beziehungen zur KI würden dies antreiben und die Menschen weiter in Isolation statt zu echten Beziehungen treiben.
Die EU ist von einem solchen Schritt weit entfernt. Nicht wenige Kinder nennen die KI bereits „ihren besten Freund“. In Brüssel arbeitet man allerdings an einer Klarnamenpflicht und einem Social-Media-Verbot zum „Jugendschutz“. Der EU-AI-Act setzt fest, dass sich KIs zu erkennen geben müssen. Verboten sind seit 2025 manipulative Systeme, die Verhalten verzerren und erheblichen Schaden anrichten; Leitlinien nennen Companion-Apps immerhin ausdrücklich als Beispiel. Viel mehr ist da aber nicht.
In den USA einigten sich Character.AI und Google im Januar 2026 mit Familien, deren Kinder nach intensiven Bot-Beziehungen Suizid begingen oder sich selbst verletzten – darunter der Fall des 14-jährigen Sewell Setzer III. OpenAI steht in ähnlichen Verfahren. Character.AI sperrte Minderjährige Ende 2025 von offenen Charakter-Chats. Parallel verabschiedeten 2026 mehr als ein Dutzend Staaten Companion-Gesetze: Kennzeichnung, Krisenrouting zur 988-Hotline, oft ein Verbot romantisch-sexueller Interaktion mit Minderjährigen. Hawaii etwa verpflichtet Betreiber seit Juli 2026 zu Offenlegung und Schutzmaßnahmen. Ein Bundesgesetz fehlt.
Angeblich waren diese Fälle auch der Grund für das Gesetz in Peking.Das Vereinigte Königreich hat zumindest Pläne, romantische und sexuell angelegte Companion-Bots für unter 18-Jährige zu sperren, und knüpft das an Pläne zur Social-Media-Altersgrenze. Allgemeine Assistenten wie ChatGPT sollen bleiben, intime Funktionen aber hinter einer Altersprüfung.China definiert emotionale Bindung an Maschinen selbst als Regulierungsgegenstand und greift ein: präventiv, zentral, mit Blick auf die Bevölkerungspolitik. Der Westen reguliert vor allem Transparenz, Minderjährigenschutz und nachweisbaren Schaden – oft erst nach Prozessen und nachdem dieser angerichtet wurde. Romantische KI für Erwachsene bleibt dort weitgehend legal, fragmentiert und marktgesteuert.
Und in dieser Entwicklung steht die Gesellschaft erst am Anfang. In China ist sie nun streng reguliert.
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb 👇
KI-Modell Claude 4: Wenn die KI zu Täuschung und Erpressung greift
KI – Angriff auf das Bewusstsein
Regeln für Kommentare: Bitte bleibt respektvoll - keine Diffamierungen oder persönliche Angriffe. Keine Video-Links. Manche Kommentare werden erst nach Prüfung freigegeben, was gelegentlich länger dauern kann. Benutzer haften für den Inhalt ihrer Kommentare.
Sie müssen angemeldet sein um Kommentare zu posten. Noch kein Konto? Jetzt registrieren.