- 随着 AI 系统不断发展和日益复杂，其风险及与其他智能设备和系统的互联性也将增加，因此有必要创建专门的治理机制。
- 关于 AI 是否应受治理监管存在争议。一些人因为 AI 的某些风险而赞同，另一些人则认为监管本身会带来风险。
- AI 治理需要具备适应性和协作性，以免无法跟上 AI 的最新发展。
人工智能（AI）正在极大地改变当今社会中社交与交易的组织方式。AI 系统及其底层算法在为社会做出道德复杂的决策时变得越来越重要。这些系统的例子包括：用于诊断病人的临床决策支持系统、预测犯罪活动可能性的警务系统，以及对内容进行分类并向用户提供个性化内容的过滤算法。人工智能与其他技术的不同之处在于，它可以在复杂问题解决上模仿或超越人类智能，因为机器可以替代并胜过许多人类通常执行的认知任务。
为什么 AI 治理很重要？
AI 治理和监管对于理解并控制 AI 开发和应用所带来的风险水平至关重要。最终，它还将有助于就社会和企业中使用机器学习技术的可接受风险水平达成共识。
然而，管理 AI 开发非常困难，因为不仅没有集中的监管或风险管理框架可供开发者或采用者参考，而且风险会因系统使用的上下文变化而变化，评估风险也极具挑战性。
为什么需要监管 AI？
确保 AI 的道德使用
需要监管来将现有的数字法律应用于 AI 技术并加以调整。这意味着保护用户的隐私（及其数据）。AI 公司在处理数据密集型算法时应投资强大的网络安全能力……并放弃部分收入，因为用户数据不应出售给第三方。这是一个美国公司在没有监管的情况下似乎固有且故意误解的概念。
从更哲学的角度来看，监管可以促进用户、开发者和生成式 AI 利益相关者之间的信任、透明度和问责制。通过让所有参与者披露 AI 输出的来源、目的和局限性，我们将能够做出更好的选择……并信任他人的选择。社会结构需要这一点。
保障人权和安全
除了“基本面”，监管还需要保护广大民众免受 AI 相关的安全风险，而这类风险有很多。
大多数将是与人相关的风险。恶意行为者可以利用生成式 AI 传播错误信息或制造深度伪造。这非常容易做到，而公司似乎无法自己阻止——主要是因为他们不愿意（而非不能）为 AI 生成的内容打标签。我们的下一次选举可能取决于监管措施的到位……而我们的十几岁的女儿可能会问我们为什么不早点这么做。
所有这些都还没有涉及 AI 驱动的战争和自主武器的话题，我们必须不惜一切代价避免制造这类武器。然而，这种情景如此灾难性，以至于我们常常用它来掩盖 AI 的许多其他问题。如果没有强有力的 AI 监管来应对上述问题，社会可能会死于千刀万剐，而非一次武器化的打击。这就是为什么我们必须确保公司同意创建符合人类价值观和道德的系统。
减轻社会和经济影响
需要制定规则，公平补偿那些数据被用于训练算法的人，而这些算法将为极少数人带来巨额财富。否则，我们只是在重蹈过去的覆辙，让深重的经济鸿沟进一步加深。这将很困难；目前几乎没有法律先例可用来指导该领域今天发生的事情。
持续保护世界经济免受 AI 驱动的经济垄断将非常重要。网络效应意味着，由于缺乏数据或计算能力，今天几乎不可能赶上互联网巨头。反垄断法几十年来一直未受触及，不能再这样下去了。在这种情况下，监管不会降低我们的竞争力。
为什么 AI 不应受监管？
抑制创新和进步
可以说，监管将减缓 AI 的进步和突破。不让公司测试和学习将降低它们的国际竞争力。然而，我们尚未看到这确实会发生的证据。即便有，问题仍然是：不受约束的创新对整个社会来说是正确的吗？利润并非一切。也许欧盟在创造新的独角兽企业和亿万富翁方面将落后于中国和美国。只要我们仍然拥有社会安全网、免费医疗、育儿假和每年 6 周的假期，那又有何妨？如果由于监管，一位千万富翁无法成为亿万富翁，那就顺其自然吧。
实施复杂且充满挑战
涉及改变世界的技术的监管往往过于模糊或宽泛而难以适用。这可能使得它们在不同司法管辖区难以实施和执行。在考虑到该领域缺乏明确标准的情况下，这一点尤为真实。
这使得平衡国际标准和主权成为一个特别敏感的话题。AI 跨境运作，其监管需要国际合作与协调。鉴于不同的法律框架和文化差异，这可能十分复杂。
过度监管的可能性及意外后果
此外，我们知道监管往往无法适应技术的快速发展。AI 是一个快速演进的领域，新技术和应用层出不穷。新的挑战、风险和机遇不断涌现，我们需要保持足够的敏捷和灵活来应对。跟上进步并监管尖端技术对管理机构来说可能具有挑战性……但这从未阻止任何人，世界依然存在。
展望未来，各国政府需要协作合作，建立广泛的框架，同时促进和鼓励知识共享和跨学科合作。这些框架必须具有合作性和灵活性，以便跟上 AI 的最新进展。