• China hat einen Regelentwurf veröffentlicht, der KI-Systeme regulieren soll, die menschliche Interaktion simulieren, und erweitert damit seine Überwachung generativer KI.
• Diese Vorschläge unterstreichen Pekings Fokus auf soziale Stabilität und Informationskontrolle und werfen neue Fragen für Entwickler und ausländische Unternehmen in China auf.
Was ist passiert: China hat einen Regulierungsentwurf zur Regulierung von KI-Systemen veröffentlicht
Der von der chinesischen Cyberspace-Administration veröffentlichte Regelentwurf konzentriert sich auf KI-Dienste, die natürliche Gespräche führen, emotionale Reaktionen simulieren oder den Eindruck erwecken, wie ein Mensch zu interagieren. Gemäß diesen Vorschlägen müssten die Anbieter sicherstellen, dass diese Systeme die „grundlegenden sozialistischen Werte“ einhalten und keine Inhalte generieren, die die nationale Sicherheit, die soziale Ordnung oder die guten Sitten gefährden.
Entwickler müssten KI-generierte Inhalte außerdem klar kennzeichnen und Mechanismen einrichten, um zu verhindern, dass Nutzer übermäßig abhängig von Systemen werden, die emotionale oder soziale Interaktion simulieren. Diese Regeln ergänzen bestehende Anforderungen, dass generative KI-Dienste vor der öffentlichen Bereitstellung Sicherheitsbewertungen unterzogen und bei den Behörden registriert werden müssen.
Der Regulierungsentwurf ist zur öffentlichen Kommentierung freigegeben, ein üblicher Schritt im chinesischen Regelungsprozess. Er kommt zu einer Zeit, in der sich einheimische Technologieunternehmen beeilen, Tools für konversationelle KI in Bereichen von Kundenservice bis Bildung und Unterhaltung einzusetzen, während globale Unternehmen beobachten, wie Chinas regulatorische Haltung die grenzüberschreitende Zusammenarbeit beeinflussen könnte.
China hat bereits Maßnahmen zu Empfehlungsalgorithmen und Deepfake-Technologien eingeführt. Der neue Entwurf deutet darauf hin, dass die Regulierungsbehörden dem psychologischen und sozialen Einfluss von KI-Systemen, die die Grenze zwischen menschlicher und maschineller Interaktion verschwimmen lassen können, mehr Aufmerksamkeit schenken.
Lesen Sie auch:CAIGA schreibt Afrikas IP-Regeln ohne seine Ressourceninhaber neu
Lesen Sie auch:Vereinigtes Königreich lockert KI-Forschungsregeln zur Förderung von Innovation
Warum das wichtig ist
Die vorgeschlagenen Regeln zeigen, wie China einen eigenen regulatorischen Weg für künstliche Intelligenz beschreitet, indem es soziale Governance und politische Kontrolle in den Mittelpunkt der Technologieüberwachung stellt. Für Unternehmen, die Chatbots, virtuelle Begleiter oder fortschrittliche Assistenten entwickeln, könnte die Compliance eine Neugestaltung ihrer Produkte erfordern, um emotionale Hinweise oder die Gesprächstiefe einzuschränken.
Befürworter der Regulierung argumentieren, dass Schutzmaßnahmen notwendig seien, um Manipulation, Desinformation oder eine ungesunde Abhängigkeit von KI-Systemen zu verhindern. Der Umfang des Regelentwurfs könnte jedoch Unsicherheit für Entwickler schaffen, insbesondere darüber, wie Regulierungsbehörden Konzepte wie „emotionale Abhängigkeit“ oder schädlichen Einfluss beurteilen werden.
Diese Maßnahme spiegelt auch die Verschärfung der globalen Debatte darüber wider, inwieweit Regierungen KI regulieren sollten, die menschliches Verhalten nachahmt. Während sich die Europäische Union mit ihrem KI-Gesetz auf Risikokategorien und Transparenz konzentriert hat, legt der chinesische Ansatz mehr Wert auf Inhaltskontrolle und Ausrichtung an den Prioritäten des Staates.
Für internationale Unternehmen verstärkt der Regelentwurf die Herausforderungen beim Betrieb von KI-Diensten in der streng regulierten digitalen Umgebung Chinas. Es bleibt fraglich, ob eine strenge Überwachung Innovationen verlangsamen oder Experimente in weniger sichtbare Kanäle treiben könnte, während die Behörden versuchen, Wachstum und Kontrolle in Einklang zu bringen.