• 该协议是此类协议中的首例，签署之际两家公司正面临对 AI 技术安全与伦理使用的监管审查。
  • 该研究所隶属于美国商务部国家标准与技术研究院（NIST），也将与英国的人工智能安全研究所合作，并就潜在的安全改进向公司提供反馈。

本刊观点
人工智能初创公司 OpenAI 和 Anthropic 已与美国政府签署协议，对其 AI 模型进行研究、测试和评估，此举旨在通过监管渠道共同评估安全风险并缓解潜在问题，以降低人工智能面临的潜在灾难性风险。
—— Iydia Ding，BTW 记者

事件概要

加州立法者最早将于本周对一项法案进行投票，该法案将广泛规范人工智能在该州的开发和应用方式。人工智能初创公司 OpenAI 和 Anthropic 已与美国政府签署协议，对其人工智能模型进行研究、测试和评估，美国人工智能安全研究所周四表示。根据协议，AI 安全研究所将在 OpenAI 和 Anthropic 的主要新模型公开发布前后接触这些模型。该协议还将推动合作研究，以评估 AI 模型的能力及其相关风险。

“我们认为该研究所在定义美国领导力方面发挥关键作用。负责任地开发 AI，并希望我们的合作能为世界其他国家提供一个可以借鉴的框架。” OpenAI（ChatGPT 的制造商）首席战略官 Jason Kwon 表示。

另请阅读：百度升级版 AI 模型用户突破 3 亿

另请阅读：Character.AI 推出新通话功能

为何重要

该协议是此类协议中的首例，签署之际两家公司正面临对 AI 技术安全与伦理使用的监管审查。

“这些协议仅仅是个开始，但却是我们负责任地参与管理人工智能未来的一个重要里程碑。”美国 AI 安全研究所所长 Elizabeth Kelly 表示。该研究所隶属于美国商务部国家标准与技术研究院（NIST），也将与英国的人工智能安全研究所合作，并就潜在的安全改进向公司提供反馈。

美国 AI 安全研究所成立于去年，是乔·拜登政府行政命令的一部分，旨在评估人工智能模型已知的和新出现的风险。这种合作模式有助于监管机构更好地了解 AI 技术的发展，从而制定更具适应性和有效性的政策和法规。