• 人工智能（AI）是数字计算机或计算机控制机器人执行通常与智能生物相关的任务的能力。
  • AI 治理是确保 AI 和机器学习技术的研究与开发能够帮助人类以道德和负责任的方式采纳和使用这些系统的法律框架。
  • AI 系统的规模、多样性、复杂性以及技术自主性水平要求重新评估法律、法规和政策。我们采用一个由三个层面组成的分析模型来呈现 AI 治理的复杂性。

人工智能（AI）是一项使计算机和机器能够模拟人类智能和解决问题能力的技术。从技术角度来看，AI 并非单一技术，而是一系列技术和子学科的集合，涵盖从语音识别、计算机视觉到注意力和记忆等领域，仅举几例。

然而，从现象学的角度来看，AI 一词常被用作一个总称，指代先进的健康诊断系统、下一代数字导师、自动驾驶汽车以及其他基于 AI 的应用所展示的一定程度的自主性。这些应用通常反过来影响人类行为，并以系统设计者有时无法预料的方式动态演变。

什么是 AI 治理？

人工智能（AI）治理指的是确保 AI 工具和系统安全且道德的护栏。它建立了指导 AI 研究、开发和应用以确保安全、公平和尊重人权的框架、规则和标准。

AI 治理涵盖应对偏见、隐私侵犯和滥用等风险，同时促进创新和信任的监督机制。以道德 AI 为中心的 AI 治理方法需要广泛利益相关者的参与，包括 AI 开发者、用户、政策制定者和伦理学家，确保 AI 相关系统的开发和使用符合社会价值观。

治理旨在建立必要的监督，以使 AI 行为与道德标准和社会期望保持一致，并防范潜在的负面影响。

AI 治理对于在开发和应用 AI 技术时达到合规、信任和效率的状态至关重要。随着 AI 日益融入组织和政府运作，其负面的潜力变得更加明显。一些引人注目的失误，例如 Tay 聊天机器人事件（链接位于 ibm.com 外部），其中微软的 AI 聊天机器人从社交媒体上的公开互动中学到了有毒行为，以及 COMPAS 软件（链接位于 ibm.com 外部）的偏见判决决定，这些都凸显了需要健全的治理以防止伤害和维护公众信任。

分层模型

管理复杂系统的关键工具之一是模块化。通过区分需要广泛相互依赖的任务和不需要的任务，模块化旨在最小化需要分析的相互依赖数量。一种特定类型的模块化称为分层，其特征是将各种系统组件排列成并行的层级结构。

有一个四层模型来说明网络空间的本质：第一层，网络体验的参与者；第二层，在网络空间中传输、存储和转换的信息；第三层，由逻辑构建块组成的服务；第四层，支撑逻辑元素的物理基础。

我们尝试通过使用一个包含三个层次的分析模型来捕捉 AI 治理的复杂性质。

另请阅读：AI：机遇与威胁

1. 技术层

构成 AI 治理生态系统基础的算法和数据位于技术层。无论是基于软件的（如刑事司法或医疗诊断系统，或智能个人助理）还是物理的（如商业机器人和自动驾驶汽车），AI 和自主系统都依赖于数据和算法。作为“DataResponsibly” Dagstuhl 研讨会的一部分，制定了一套负责任算法的指南，并提出了一个建议的社会影响声明。以下是建议的社会责任算法指导原则：问责性、可解释性、准确性、适当性和公平性。数据治理，即 AI 算法收集、使用和管理数据的过程，应遵循维护公平和防止基于种族、肤色、国籍、宗教、性别、性取向或残疾的歧视的原则。

另请阅读：什么是 Perplexity AI？

2. 伦理层

在技术层之上，我们可以讨论涉及所有类型 AI 系统和应用的广泛伦理问题。人权原则是制定此类伦理原则的重要来源。IEEE 关于 AI 和自主系统的一般原则是 AI 伦理规范开始形成的另一个例证。算法驱动的行为可以用道德标准和准则来评估。例如，如果一个 AI 应用程序研究了保险公司的数据，并因为性别或年龄等因素对特定人群收取更高的保费，那将违反平等或公平对待的伦理原则。

3. 社会和法律层

建立机构和分配角色以规范 AI 和自主系统的过程可以涵盖在社会和法律层。换句话说，一个决策机构将有权力定义 AI，制定例外情况，允许研究人员在特定环境下进行 AI 研究而无需对其行为承担严格责任，并建立 AI 认证程序。来自技术层和伦理层的原则和标准，以及更广泛的国家和国际法律框架（如与人权相关的框架），可以作为旨在规范 AI 的具体规范的基础。为了定义 AI 和自主系统的适当行为，分层模型为思考 AI 治理提供了一个框架。

AI 和算法决策系统可以使用多层和多层方法的组合来实施其治理结构。在这里，我们概述了其中的几个层次，同时牢记只有当特定 AI 应用的风险显著且可验证时，才会考虑其中一些层次。治理程序可以在国家或国际层面使用，范围可以从基于政府的结构到面向市场的解决方案。