中国近期针对提供生成式人工智能（AI）服务的公司出台了严格的安全要求。这一进展由全国信息安全标准化技术委员会宣布，旨在遏制 AI 模型的滥用及其可能造成的危害。

伦理边界

生成式人工智能通过像 OpenAI 的 ChatGPT 等知名模型获得了广泛关注，它能够通过接触到的训练数据学习并生成新的内容，无论是文本还是图像。中国的新规定表明，中国正努力确保 AI 模型在一定的伦理边界内运行。

这些规定的一个突出特点是建立了一份黑名单，列出了禁止用于训练 AI 模型的来源。这份黑名单将有助于防止 AI 系统受到有害或非法内容的影响。具体而言，任何包含超过 5%非法或有害信息的数据都将被明确排除在外。

禁止的内容包括“宣扬恐怖主义”或暴力、任何“颠覆社会主义制度”的企图、“损害国家形象”的行为，以及“破坏民族团结和社会稳定”的内容。通过这些措施，中国旨在确保 AI 系统避免生成或传播可能引发伤害或冲突的内容。

相关阅读：

中国收紧生成式 AI 平台规则

Google Bard 成为生成式 AI 领域的有力竞争者，但挑战仍存

被审查的数据同样禁止使用

此外，指导方针还规定，在中国互联网生态系统内被审查的数据不应作为 AI 模型的训练材料。这一措施与中国维持受控数字环境、遏制不良内容传播的总体承诺相一致。

这一进展是在最近决定允许包括科技巨头百度在内的几家中国科技公司推出 AI 驱动聊天机器人之后发生的。然而，此项授权要求这些公司在向公众提供其生成式 AI 服务之前进行全面的安全评估。中国国家互联网信息办公室自今年四月以来一直在积极推进这一议程。

需获得个人同意

为了确保责任追究，安全要求草案还强制规定，组织在使用个人生物识别数据等个人信息训练 AI 模型时，必须征得相关个人的同意。这与更广泛的全球数据隐私和同意趋势相符。

中国对人工智能的关注，源于其在这一科技领域与美国竞争的雄心。中国的目标是到 2030 年成为全球人工智能领导者，而这些新出台的法规标志着朝这一目标迈出的关键一步。在世界努力为 AI 技术设定边界和标准之际，中国的积极举措反映了其在利用 AI 潜力的同时防范其滥用的承诺。这些法规不仅有望塑造中国的 AI 格局，还将为全球范围内正在进行的 AI 伦理与安全讨论做出贡献。