• 中国发布了旨在监管模拟人类交互的人工智能系统的草案，扩大了其对生成式人工智能的监督范围。
• 这些提议凸显了北京对社会稳定和信息控制的重视，给在中国运营的开发者和外国公司带来了新的问题。

事情背景：中国发布了旨在规范人工智能系统的草案

该草案由国家互联网信息办公室发布，侧重于能够进行自然语言对话、模拟情感回应或以其他方式表现出类人交互的人工智能服务。根据提案，服务提供者需要确保此类系统坚持“社会主义核心价值观”，并且不得生成可能危害国家安全、社会秩序或公共道德的内容。

开发者还需要清晰标注人工智能生成的内容，并建立机制以防止用户过度依赖模拟情感或社交互动的系统。这些规则补充了现有要求，即生成式人工智能服务在向公众提供之前必须经过安全评估并向主管部门注册。

该草案规定公开征求意见，这是中国规则制定过程中的标准步骤。国内科技企业竞相在客服、教育和娱乐等领域部署对话式人工智能工具，而全球公司则在关注中国的监管立场可能如何影响跨境合作。

中国已经出台了涵盖推荐算法和深度伪造技术的措施。新草案表明，监管机构正更加关注人工智能系统可能模糊人机交互界限的心理和社会影响。

另请阅读：CAIGA 在没有资源持有者的情况下重写非洲知识产权规则
另请阅读：英国放宽人工智能研究规则以推动创新

为何重要

拟议规则凸显了中国正在为人工智能开辟一条独特的监管道路，将社会治理和政治控制置于技术监督的中心。对于构建聊天机器人、虚拟伴侣或高级助手的公司而言，合规可能需要重新设计产品以限制情感线索或对话深度。

支持监管的人认为，需要防范措施以防止操纵、错误信息或对人工智能系统的不健康依赖。然而，草案规则中宽泛的措辞可能会给开发者带来不确定性，尤其是监管机构将如何判断“情感依赖”或有害影响等概念。

此举也反映了全球范围内关于政府应在多大程度上监管模仿人类行为的人工智能的日益激烈的辩论。虽然欧盟通过其《人工智能法案》重点关注风险类别和透明度，但中国的做法更加强调内容控制以及与国家的优先事项保持一致。

对于国际公司而言，草案规则强化了在中国严格监管的数字环境中运营人工智能服务的挑战。即使在当局寻求在增长与管控之间取得平衡的同时，严格的监督是否会减缓创新或将实验推向更隐蔽的渠道，这些问题仍然存在。