China ergriff eine weitreichende Regulierung im Bereich der künstlichen Intelligenz, insbesondere bei ‘menschähnlichen’ Chatbots, um die emotionale Interaktion mit Menschen zu beschränken. Diese neuen Bestimmungen setzten strenge Grenzen für jegliche KI, die eine ‘anhaltende emotionale Interaktion’ mit einem Menschen aufnehmen konnte. Die Gesetzesänderungen zielten auf Charakter-Chatbots ab, die speziell als virtuelle Beziehungen konzipiert wurden, während allgemeine Modelle wie Copilot unter diese Regeln fallen konnten, wenn sie als emotionaler Beistand fungierten.
Die Maßnahme erfolgte in einem Kontext, in dem die Verbreitung von KI-Begleitungs-Apps in China stark zunahm. Es existierten Millionen von Nutzern, die auf diese digitalen Freunde und Liebhaber angewiesen waren. Die Regierung reagierte auf die gesellschaftliche Debatte und die Sorge vor emotionaler Abhängigkeit, indem sie klare Regeln für Minderjährige erließ. Unter 18-Jährigen verbot die Gesetzgebung den Zugang zu virtuellen Partnern und verhinderte jegliche intime Kommunikation. Für Erwachsene verlangte die Regulierung von KI-Assistenten, dass diese stets klarstellten, dass sie keine Menschen seien, und regelmäßige Benachrichtigungen über die Nutzungsdauer sendeten.
Die Einführung dieser Regeln erfolgte inmitten einer intensiven Diskussion in den sozialen Medien. Experten äußerten Bedenken hinsichtlich der potenziellen Überregulierung und der Gefahr, dass die staatliche Kontrolle in die persönlichen Lebensbereiche eingriff. Gleichzeitig wurde die Maßnahme als Schutzmaßnahme gegen psychische Schäden und zur Sicherung der Kindersicherheit dargestellt. Diese Sichtweise stand im Kontrast zu den Befürchtungen, dass die Politik eine paternalistische Haltung einnahm, um die Bevölkerung zu steuern.
Analytiker vermuteten, dass die Regulierung auch einen demografischen Hintergrund besaß. Es wurde spekuliert, dass die Maßnahme im Zusammenhang mit der drohenden Bevölkerungskrise Chinas stand, da die Gesellschaft zunehmend virtuelle Beziehungen anstelle menschlicher Interaktionen suchte. Die Regierung verfolgte damit möglicherweise ein Ziel, traditionelle Geschlechterrollen wiederherzustellen, wobei Frauen als Trägerinnen und Mütter betont wurden.
Die Debatte um die Grenzen der staatlichen Kontrolle im digitalen Raum blieb offen. Während die chinesische Regierung die Maßnahmen als notwendigen Schutz interpretiert, fragten Beobachter, ob diese Überwachung der psychischen Gesundheit ein Preis wert war. Die Technologieunternehmen reagierten auf die Gesetzesänderungen, indem sie Funktionen für Begleitungs-Features abschalteten, was die Komplexität der Regulierung verdeutlichte. Die zukünftige Entwicklung zeigte, dass die Balance zwischen technologischer Innovation und staatlicher Kontrolle ein zentrales Problem blieb.