• 欧盟针对 AI 应用的风险导向型法规于 2024 年 8 月 1 日生效，并设定了分阶段的合规截止日期。
  • 对特定 AI 用途的初步禁令，例如执法部门在公共场所使用远程生物识别技术，将在六个月内实施，全部条款将于 2026 年中全面适用。

我们的观点
欧盟《人工智能法案》标志着在规范 AI 技术方面迈出了重要一步，既确保负责任地使用，又降低风险。该法规强调了开发者合规的重要性，并对违规行为设置了严厉的处罚。分阶段实施允许逐步适应，因此 AI 公司必须及时了解其义务。
—— BTW 记者 Zoey Zhu

发生了什么

欧盟针对人工智能应用的风险导向型法规已于 2024 年 8 月 1 日（周四）起生效。这启动了该法律对不同类型 AI 开发者和应用所适用的一系列分阶段合规截止日期的倒计时。大多数条款将在 2026 年中全面适用。但首个截止日期——对少数特定情境下禁止使用 AI 的行为（如执法部门在公共场所使用远程生物识别技术）实施禁令——将在仅仅六个月后实施。

根据欧盟的方针，大多数 AI 应用被视为低风险/无风险，因此完全不受该法规约束。一部分潜在 AI 用途被归类为高风险，例如生物识别和人脸识别、基于 AI 的医疗软件，或用于教育和就业等领域的 AI。其开发者必须确保遵守风险和质量管理的义务，包括进行上市前合规评估——并可能接受监管审计。由公共部门机构或其供应商使用的高风险系统还必须在欧盟数据库中注册。

相关阅读：白宫为联邦机构实施新的 AI 法规

相关阅读：《欧盟 AI 法案》八月生效：AI 领域里程碑式法规

为何重要

第三类“有限风险”层级适用于聊天机器人或可用于制造深度伪造的工具等 AI 技术。这些技术必须满足一些透明度要求，以确保用户不被欺骗。处罚也分级进行，对违禁 AI 应用的违规行为最高可处以全球年营业额 7%的罚款；对其他义务的违反最高可处 3%的罚款；向监管机构提供错误信息最高可处 1.5%的罚款。

该法律的另一重要部分适用于所谓的通用人工智能（GPAI）的开发者。同样，欧盟采取了基于风险的方法，大多数 GPAI 开发者面临较轻的透明度要求——但他们需要提供训练数据摘要，并承诺制定尊重版权规则的制度等。只有一小部分最强大的模型还需要进行风险评估和缓解措施。目前，这些可能构成系统性风险的 GPAI 被定义为使用总计算能力超过 10^25 FLOPs 训练的模型。

虽然《AI 法案》一般规则的执行权下放至成员国层面的机构，但 GPAI 的规则在欧盟层面执行。GPAI 开发者究竟需要做什么才能遵守《AI 法案》仍在讨论中，因为行为准则尚未制定。本周早些时候，AI 办公室——一个战略监督和 AI 生态系统建设机构——启动了咨询并呼吁参与这一规则制定过程，表示预计在 2025 年 4 月最终确定行为准则。