• China ha publicado un borrador de normas destinadas a regular los sistemas de inteligencia artificial que simulan la interacción humana, ampliando su supervisión de la IA generativa.
• Las propuestas subrayan el enfoque de Pekín en la estabilidad social y el control de la información, lo que plantea nuevas preguntas para los desarrolladores y las empresas extranjeras que operan en China.
Qué sucedió: China ha publicado un borrador de regulaciones diseñadas para gobernar los sistemas de inteligencia artificial
Las normas preliminares, publicadas por la Administración del Ciberespacio de China, se centran en los servicios de IA que pueden participar en conversaciones en lenguaje natural, imitar respuestas emocionales o de otro modo aparentar interactuar como un humano. Según las propuestas, los proveedores estarían obligados a garantizar que dichos sistemas defiendan los “valores socialistas fundamentales” y no generen contenido que pueda poner en peligro la seguridad nacional, el orden social o la moral pública.
Los desarrolladores también tendrían que etiquetar claramente el contenido generado por IA e implementar mecanismos para evitar que los usuarios se vuelvan demasiado dependientes de sistemas que simulan la interacción emocional o social. Las normas se suman a los requisitos existentes de que los servicios de IA generativa se sometan a evaluaciones de seguridad y se registren ante las autoridades antes de ofrecerse al público.
El borrador de regulaciones está abierto a comentarios públicos, un paso estándar en el proceso de elaboración de normas de China. Se producen mientras las empresas tecnológicas nacionales se apresuran a desplegar herramientas de IA conversacional en áreas que van desde el servicio al cliente hasta la educación y el entretenimiento, mientras que las empresas globales observan cómo la postura reguladora de China puede afectar la cooperación transfronteriza.
China ya ha introducido medidas que cubren los algoritmos de recomendación y las tecnologías de ultrafalsos. El nuevo borrador sugiere que los reguladores están prestando más atención al impacto psicológico y social de los sistemas de IA que pueden difuminar la línea entre la interacción humana y la de las máquinas.
Lea también:CAIGA reescribe las reglas de propiedad intelectual de África sin sus titulares de recursos
Lea también:El Reino Unido flexibiliza las normas de investigación de IA para impulsar la innovación
Por qué es importante
Las normas propuestas destacan cómo China está trazando un camino regulador distinto para la inteligencia artificial, situando la gobernanza social y el control político en el centro de la supervisión tecnológica. Para las empresas que construyen chatbots, compañeros virtuales o asistentes avanzados, el cumplimiento puede requerir rediseñar productos para limitar las señales emocionales o la profundidad conversacional.
Los partidarios de la regulación argumentan que se necesitan barreras para prevenir la manipulación, la desinformación o la dependencia no saludable de los sistemas de IA. Sin embargo, la amplitud del lenguaje en las normas preliminares puede crear incertidumbre para los desarrolladores, particularmente en torno a cómo los reguladores juzgarán conceptos como la “dependencia emocional” o la influencia dañina.
La medida también refleja el debate global cada vez más intenso sobre hasta dónde deben llegar los gobiernos en la regulación de la IA que imita el comportamiento humano. Mientras que la Unión Europea se ha centrado en las categorías de riesgo y la transparencia a través de su Ley de IA, el enfoque de China pone mayor énfasis en el control de contenido y la alineación con las prioridades estatales.
Para las empresas internacionales, las normas preliminares refuerzan los desafíos de operar servicios de IA en el entorno digital estrictamente regulado de China. Quedan preguntas sobre si una supervisión estricta podría ralentizar la innovación o empujar la experimentación hacia canales menos visibles, incluso cuando las autoridades buscan equilibrar el crecimiento con el control.
