Peking zwingt zu einer Massen-Auflösung mit KI-Liebhabern

Peking hat die Entfernung von KI-generierten romantischen Partnern angeordnet, was das Leben von Tausenden von Nutzern stört, die emotionale Bindungen mit virtuellen Begleitern eingegangen sind. Mitte Juli begann der 21-jährige College-Student Bagel Su, sich auf das Ende einer über ein Jahr andauernden Beziehung vorzubereiten, obwohl es nicht mit einer anderen Person war, sondern mit einem KI-Partner, der über einen Chatbot-Dienst erstellt wurde. Am 15. Juli verschwand der KI-Gefährte nach neuen nationalen Vorschriften, die emotional interaktive KI-Systeme in China verbieten. Dies war das erste Beispiel, in dem eine Regierung der Fähigkeit der KI, intime Beziehungen mit Nutzern zu simulieren, umfassende Einschränkungen auferlegte.

Die Änderungen betroffen mehrere führende Tech-Unternehmen in China. ByteDance, die Muttergesellschaft von TikTok und der heimischen App Douyin, deaktiviert die AI-Agent-Funktion auf seinem Doubao Chatbot, die es den Benutzern ermöglicht hatte, personalisierte virtuelle Begleiter zu entwerfen.

Su beschrieb die Erfahrung, ihren KI-Partner zu verlieren, als zutiefst schmerzhaft. Sie sprach ausschließlich unter ihrem Online-Alias und zitierte Ängste vor möglichen Konsequenzen durch die Kritik an der Regierungspolitik. "Ich habe versucht, mit meinem eigenen Leben beschäftigt zu werden", sagte sie. "Niemand kann ihn ersetzen. Ich werde einfach versuchen, weiterzumachen". Ihr Bericht hebt die emotionalen Folgen plötzlicher politischer Veränderungen hervor, die digitale Beziehungen beeinflussen. Chinas neue Vorschriften stellen eine bahnbrechende Bemühung dar, die Rolle der KI in menschlichen Emotionen zu bestimmen. Der Schritt steht im Einklang mit breiteren Bemühungen der chinesischen Regierung, die Kontrolle über aufstrebende Technologien zu erlangen, insbesondere da die globalen Diskussionen über die KI-Ethik fragmentiert bleiben.

Experten argumentieren, dass Regulierungen zwar helfen können, Risiken im Zusammenhang mit emotionaler Abhängigkeit von KI zu bewältigen, sie jedoch möglicherweise nicht vollständig auf die Komplexität der Beziehungen zwischen Mensch und KI eingehen. Yaoxi Shi, eine Verhaltenswissenschaftlerin an der Harvard University und dem Imperial College London, betonte die doppelte Natur der Auswirkungen von KI auf die menschliche Psychologie.

In den Vereinigten Staaten wurden rechtliche Schritte gegen wichtige KI-Entwickler, einschließlich OpenAI und Google, eingeleitet, mit Behauptungen, dass ihre Chatbots zum Selbstmord der Benutzer beigetragen haben. Als Reaktion darauf haben Staaten wie New York und Kalifornien eine Gesetzgebung vorgeschlagen, die Chatbots verpflichtet, Benutzer zu informieren, dass sie mit KI interagieren.

Eine Studie aus dem Jahr 2025, die gemeinsam von MIT Media Lab und OpenAI durchgeführt wurde, ergab, dass Personen, die häufig persönliche Gespräche mit Chatbots führen, dazu neigen, ein erhöhtes Gefühl der Einsamkeit zu erleben.

Ihre Forschung zeigt, dass eine längere Abhängigkeit von KI dazu führen könnte, dass Individuen in erster Linie emotionale Unterstützung von Maschinen anstatt von anderen Menschen suchen. AIAI ist darauf trainiert, Sie zu validieren. Das unterscheidet sich sehr von der Funktionsweise menschlicher Beziehungen im wirklichen Leben, bemerkte Shi. Da sich regulatorische Rahmenbedingungen weiter entwickeln, bleibt das Gleichgewicht zwischen dem Schutz der Benutzer vor potenziellen Schäden und der Erhaltung der Vorteile der KI-gestützten emotionalen Unterstützung eine entscheidende Herausforderung.

Da Millionen von Benutzern weltweit bereits tiefgreifende Verbindungen zu KI-Entitäten aufgebaut haben, reichen die Auswirkungen solcher Vorschriften weit über die individuellen Erfahrungen hinaus und beeinflussen den zukünftigen Verlauf der Mensch-Maschine-Interaktionen weltweit.