The EU AI ACT: How will it change the AI landscape?

• 5月13日，欧盟议会批准了全球首套重要的监管规则，以风险为基础对处于科技投资前沿的媒体化人工智能进行监管。
• 立法总是滞后的，这就是为什么在如此快速发展的阶段，企业自治规则和行业共识至关重要。科技巨头们贡献着他们的智慧，但OpenAI事件引发了人们对企业自律的质疑。
• 全球共识、横向与纵向监管相结合以及动态监督，这三点或许能为未来AI产业的监管与自律提供思路。

5月13日，欧盟议会通过了全球首套重要的监管规则，以规范处于科技投资前沿的媒体化人工智能，为全球AI治理格局注入了强大的监管力量。 另见: AfriNIC会员名册神秘消失.

然而，全球AI治理格局的建立还需要基于对AI技术更深入的理解、与科技巨头更多的协作互动，以及监管者意识的提升。 另见: AfriNIC 消失的成员登记册.

基于风险的欧盟人工智能法案分类

“我认为这是监管机构在确定要求时采取的最佳策略，因为试图在其他方面界定法规，会给那些最终风险不足以值得这么做的模型提供商带来不适当的负担。 ” 另见: 亚历杭德罗·费尔南德斯.

奥塔尔·希蒙，Hi-Touch PR客户经理

欧盟的《人工智能法案》（AIA）适用于在欧盟开发或分发AI的所有行业的公司，以及使用AI系统产生影响欧盟居民输出的公司。 另见: 阿尔多·加西亚.

欧盟AI价值链中的多个参与者受到影响，包括“AI系统”的定义。AI系统的定义被扩大，包括任何基于机器的自主系统，它“从接收到的输入中推断如何生成输出”。随着生成式AI的出现，该法案也适用于“通用AI模型”或GPAI模型，这些模型是构建广泛应用AI系统的关键组件，例如DALL-E和OpenAI的GPT-4。 另见: Alcymer Vieira.

另请阅读：《人工智能法案》：全球首部全球AI法律在欧盟通过

在此基础上，欧盟巧妙地选择根据潜在风险对AI模型进行分类和管理，这使得风险管理更加细致和有效，将资源和审查集中在最需要的地方。具体来说，它采取基于风险的方法，将AI系统分配到一个风险等级，并要求高风险系统满足比低风险系统更严格的要求。 另见: 阿尔西德斯·克雷莫内齐.

AIA为AI系统设定了四个风险等级：不可接受风险、高风险、有限风险和最低（或无）风险，其对AI系统的清晰分类与全球风险管理框架（如NIST AI RMF和ISO 420001）保持一致。 另见: 阿尔贝托·安纳亚.

这种对AI系统的清晰分类与NIST AI RMF和ISO 420001等全球风险管理框架相一致，并提高了透明度和问责制。

永恒的问题：创新与监管

“我记得在柏林与另一位CEO交谈时，他半开玩笑地说，他们花在遵守法规上的时间与创造产品的时间一样多。” 另见: 阿尔伯特·基斯.

埃里克·塞弗林豪斯，Bloomfilter创始人兼CEO

自AI立法提上日程以来，平衡创新与监管一直是一个备受关注、讨论和争论的问题。AIA基于人权和安全基准将AI风险开创性地分为四个等级，也收到了批评者、AI行业从业者以及政治和法律专家的意见。

从积极方面来看，这种分类系统提供了灵活性，并允许创新开发者开发风险较低的AI技术，而无需对其施加不必要的监管限制。这促进了创造力，并鼓励了AI在各领域的应用进步。

AIA侧重于高风险AI系统，给AI的发展和创新带来了一定的负担和障碍。对于大公司来说，广泛的合规要求可能会阻碍技术的进一步发展和市场扩张。然而，高合规门槛可能会阻止更多公司进入AI领域，并有助于形成垄断。这也导致一些中小型AI企业或研究机构难以承担相应的合规成本和风险。

但事实是，创新与监管并非不可调和的矛盾，因为还有另一个重要因素：用户。有效的监管要求应用程序透明，这有助于建立公众对AI及其制造公司的信任，这对于技术的广泛接受和融入日常生活至关重要。通过强调透明度，该分类系统解决了人们对AI系统不透明性的担忧，并促进了更大的问责制。这对AI技术的长远发展利大于弊。

这或许就是批评者们更倾向于以相对积极的眼光看待AIA的原因，认为它非常全面，将消费者保护、透明度和问责制放在首位，这对于培养对AI技术的信任至关重要。但在随后的实施和修订方面，仍有很长的路要走。

其他国家的AI治理尝试

除了基于人权和安全将AI风险分为四个等级外，AIA还有另一个相对重要的创新，即它开启了AI横向监管的进程，在此之前，AI监管通常是纵向的。横向监管是适用于所有行业和应用的法规，涵盖所有领域和人群。这就是该法案在强调严格监管的同时，也注重监管创新的原因，例如鼓励各国开展“沙盒测试”，并为中小企业提供更多便利和支持。

在英国，受脱欧影响，其立法旨在促进创新的同时，确保AI得到合乎道德和负责任的使用，促进与欧盟标准相一致的透明度、问责制和公平性。

英国最近成立的AI安全机构——英国安全研究所，本月发布了一套名为Inspect的工具集，用于测试AI模型的安全性，旨在通过使行业、研究机构和学术界更容易开展AI评估来增强AI安全。这一行为也与AIA对AI模型的风险分类要求相一致。

中国采取了更加自上而下的方法，对AI的开发和部署施加了更严格的控制，特别是在监控和数据隐私方面。中国政府发布了《新一代人工智能发展规划》，在基于国家优先事项规范与指导AI发展方面发挥着重要作用。

美国在AI领域占据主导地位，OpenAI发布了强大的新型文本转视频平台Sora，谷歌推出了Gemini 1.5，这是其下一代AI模型，可以处理比前代大30倍的请求。美国在AI监管方面采取相对自由的方式，更注重促进创新和保持技术领先地位，侧重于道德框架和指南，而非具有约束力的法律。

美国总统乔·拜登于2023年10月发布了一项行政命令，以国家安全风险为由，限制“最强大AI系统”的开发者与政府分享其安全测试结果及其他关键信息。美国最近还推出了NIST AI RMF，旨在管理与AI系统相关的风险，反映出美国监管环境日益认识到风险管理、治理和道德使用AI技术的重要性。

另请阅读：英国政府为里程碑式AI安全峰会召集技术专家和外交官

两国的共同点是，它们将首先纵向监管那些最有可能危害人民权利或社会稳定的AI相关技术，例如深度伪造技术。这也是朝着潜在风险因素更高的方向进行治理。

快速测验

在欧盟最近发布的人工智能法案中，AI系统根据潜在风险分为哪四个类别？

A. 不可接受风险

B. 高风险

C. 有限风险

D. 中等风险

E. 最低（或无）风险

正确答案在文章底部。

已经存在的有效自我监管

立法总是滞后的，这就是为什么在如此快速发展的阶段，企业自治规则和行业共识至关重要。

谷歌建立了自己的AI原则，强调创造对社会有益的AI，遵循高标准的安全和公平。Meta也参与了关于治理AI系统的讨论，特别是在平衡创新与隐私及内容分发公平性方面。

微软一直倡导负责任的AI，开发用于检测和消除AI算法偏见的工具，并提高AI系统的透明度。IBM通过其AI伦理委员会制定全公司范围的AI伦理政策，注重信任和透明度，以使AI开发与以人为本的原则相一致。

然而，OpenAI在2023年底的人事变动引发了人们对自我监管有效性的更多质疑。该公司CEO萨姆·奥尔特曼被OpenAI的非营利董事会解雇，该董事会担心奥尔特曼在行动中缺乏谨慎以及AI可能对社会构成的危险。

根据OpenAI向IRS提交的文件，到2018年，该公司将不再宣扬“公开分享我们的计划和能力”的承诺；到2021年，公司的目标已变为“构建通用AI”，这与商业产品化利益产生共鸣，而非以研究为导向、开放式的“推进数字智能”使命。

以萨姆·奥尔特曼本人为首的支持者们希望迅速将强大的新技术带给公众，同时继续朝着真正的通用AI迈进。尽管奥尔特曼在解雇后不久收到了微软的橄榄枝，并最终被OpenAI重新聘用，但最初解雇他的几名成员辞职了。但这为未来的AI监管者提供了一个重要教训：有意义的自我监管的可能性，尤其是通过聪明的企业形式，是一种幻想。

另请阅读：探索OpenAI与微软的合作关系

公司内部的权力斗争，以及非营利董事会最终未能保持对日益商业化公司的控制，提醒着人们，如果社会想要减缓这种可能划时代技术的推广，或许必须采取传统方式：通过自上而下的政府监管。

展望未来：如何解决技术进步与后续治理之间的差距？

“探索全球AI立法就像品尝一款复杂的葡萄酒；每个国家都增添了其独特的风味，有时很难预测它究竟是恰到好处还是留下苦涩的余味。”

埃里克·塞弗林豪斯，Bloomfilter创始人兼CEO

全球共识

以AIA为例，就AI监管达成全球共识将需要很长时间。该法案的发布是第一步，随后的实施仍有很长的路要走。建立全球AI监管需要个人、公司、组织和国家的共同努力。

一方面，如果欧洲的规则比其他监管不那么严格的地方严格得多，可能会降低欧洲公司在全球的竞争力。另一方面，如果欧洲的监管行业与自我监管产生很多冲突，执行起来将变得更加困难。

缺乏全球商定的分类标准也可能产生监管套利的风险。以AIA为例，欧盟建立了一整套执法体系以及与该法案落地相配套的多层级监督和实施机制，包括欧盟成员国的国家监管机构等，这是欧盟相对于单个国家可以发挥的优势。

横向与纵向监管相结合

随着AI技术的不断发展，未来的立法可能需要更加动态和自适应，可能包含实时风险评估和更灵活的监管机制。全球AI监管格局是动态且复杂的，欧盟AI法案是重要的一步，可能影响全球标准。

除了各国和组织将努力推出的全面且相对通用的横向监管外，还将出现更针对特定行业的监管，尤其是在生命科学和金融服务领域。

动态监督

面对AI技术的快速发展，面临的挑战无疑是巨大的。例如AIA的分级方式，一些AI系统可能在初始评估后，以增加风险水平的方式演变，这需要持续监控和重新评估，以确保AI模型保持适当分类。

此外，AI技术的后续发展很可能超出任何政府法规和公司指导方针的预期，这不仅对立法者的技术远见提出了很高要求，还需要立即调整、补充和修订相关监管规定。

正确答案是A、B、C和E。