AI 治理对人类福祉至关重要

BTW Media 将“AI 治理对人类福祉至关重要”作为跟踪对象，原因是公开证据将其与互联网基础设施、治理、运营依赖性及市场可见性相关联。

• 人工智能系统的开发者和部署者应对其行为及其系统的影响负责。
• 人工智能系统应被安全可靠地设计和使用，以减轻事故、误用和恶意攻击的风险。
• 人工智能系统应易于理解，并允许个人理解其决策过程。

AI 治理是指确保人工智能（AI）系统负责任地开发、部署和使用的政策、流程和框架。它涉及建立指南、法规和监督机制，以应对人工智能的伦理、法律和社会影响，例如确保 AI 系统尊重人权、透明且可问责，并不助长偏见或歧视。世界经济论坛的利益相关方倡议“AI 治理联盟”旨在通过汇聚行业领袖、政府、学术机构和民间社会组织，在全球范围内倡导负责任的 AI 治理。

伦理考量

人工智能的开发和使用应遵循伦理原则，以确保负责任且有益的运用。AI 系统应公平、无偏见，并不因种族、性别、宗教或残疾等因素歧视个人或群体。它们应透明，让人们能够理解其运作和决策过程。开发者和部署者应对其决策负责，保护隐私，并确保安全与保障。AI 应促进人类福祉，而不损害个人或社会。

然而，人工智能开发与使用中出现了伦理挑战，如偏见、复杂性和缺乏透明度。这些挑战可能导致不公平结果、信任问题、隐私担忧、监控、攻击和失业。AI 系统还应透明，以便问责并理解决策。应对这些挑战对于确保 AI 的伦理和有益使用至关重要。

安全与保障

人工智能系统存在潜在风险，包括事故、误用和恶意攻击。在自动驾驶汽车或医疗诊断等高风险应用中，错误可能造成严重后果。误用可能导致深度伪造、错误信息传播、网络攻击和数据盗窃。为减轻这些风险，AI 系统应融入安全设计理念，采用鲁棒算法、彻底测试和错误检测机制。应实施加密、身份验证和授权等安全措施。人类监督对 AI 系统至关重要，且政府和组织可制定法规以确保安全可靠的使用。

安全与保障应融入 AI 开发生命周期的所有方面，从设计到部署。这包括尽早识别和评估潜在风险，制定缓解策略，测试和验证 AI 系统，以及监控和监督以确保持续的安全与保障。政府和组织可制定法规和标准，确保 AI 系统得到安全可靠地开发和使用。将安全与保障融入 AI 开发生命周期，对于确保持续的 AI 系统安全与保障至关重要。

隐私与数据保护

隐私是一项基本人权，尤其是在收集和使用大量个人数据的人工智能系统背景下。为保护个人隐私，AI 系统的设计和使用应尊重这些权利。数据保护原则应指导 AI 系统中个人数据的收集、使用和存储，包括数据最小化、目的限制、数据安全、透明度和个人控制。

为在 AI 系统中实施隐私与数据保护，可使用差分隐私和联邦学习等隐私增强技术。应制定数据治理框架，为数据的收集、使用和存储设定明确规则，并在收集、使用或存储数据前获得用户同意。数据匿名化和加密也可用于保护数据免受未授权访问。

然而，在人工智能背景下的隐私与数据保护领域存在挑战，如新 AI 技术的快速发展、AI 的全球性以及个人数据使用的增加。尽管存在这些挑战，AI 领域的隐私与数据保护仍有前景的发展，例如新型隐私增强技术的开发、隐私问题意识的提高以及新隐私法律和法规的制定。

透明度与问责制

透明度与问责制对于建立对 AI 系统的信任至关重要，使人们能够理解其运作并识别潜在偏见。问责制确保开发和部署 AI 系统的人对其行为负责，包括其决策及这些决策的影响。

推荐阅读：勒索软件攻击解析：攻击的 5 个阶段

为在 AI 系统中实施透明度与问责制，可使用可解释 AI（XAI）技术，使 AI 系统更易理解。审计和监控 AI 系统对于确保其按预期运行、不被以歧视性或有害方式使用至关重要。人在回路系统允许人类监督 AI 决策并在必要时进行干预。公众参与对于确保 AI 得到负责任地开发和使用也十分关键。

然而，在解决 AI 透明度与问责制方面存在挑战，如 AI 系统的复杂性、缺乏标准以及公众教育的必要性。尽管存在这些挑战，AI 透明度与问责制方面仍有前景的发展，例如新 XAI 技术的开发、对透明度与问责制重要性认识的提高，以及新标准和法规的制定。

推荐阅读：AI 治理：伦理、法律与全球必要性

经济与社会影响

人工智能有潜力带来显著的经济和社会效益，如提高生产力、催生新产品和服务、改善决策以及增进社会公益。然而，它同时也带来工作替代、不平等加剧、失控和 AI 误用等风险。

为减轻这些风险，我们需要投资于教育和培训项目，为因 AI 失业的人创建安全网，规范 AI 以确保其安全和负责任的使用，并促进符合伦理的 AI 开发。

投资教育和培训项目可以帮助人们发展在 AI 经济中取得成功所需的技能。创建安全网，如失业保险和再培训项目，可以帮助那些因 AI 而流离失所的人。法规可以包括禁止自主武器和限制在某些行业中使用 AI。促进符合人类价值观的伦理 AI 开发有助于确保 AI 被用于公益。