- OpenAI 首席执行官 Sam Altman 宣布与美国 AI 安全研究所合作，对其下一个主要生成式 AI 模型进行早期安全测试。
- 此举动是在 OpenAI 的安全实践受到批评后做出的，旨在展示对 AI 安全的新关注。
我们的观点
这一合作凸显了 OpenAI 对日益增长的 AI 安全担忧的回应，旨在安抚批评者并展示其对负责任的 AI 开发的承诺。通过与联邦机构合作，OpenAI 寻求在创新与安全协议之间取得平衡。
—— Zoey Zhu，BTW 记者
发生了什么
OpenAI 首席执行官 Sam Altman 于周四晚上宣布，OpenAI 正与美国 AI 安全研究所合作，为其下一个主要生成式 AI 模型提供早期访问以进行安全测试。美国 AI 安全研究所 隶属于商务部国家标准与技术研究院，旨在评估和应对 AI 平台的风险。此次合作是在六月份与英国 AI 安全机构达成类似协议之后进行的。
近几个月来，OpenAI 因降低 AI 安全的优先级而遭到批评。今年五月，该公司解散了一个专注于开发防止“超级智能”AI 系统失控的控制措施的团队。此举导致该团队联合负责人辞职，并引发了 AI 安全倡导者的强烈反对。作为回应，OpenAI 已采取措施解决这些问题，包括取消限制性的非贬低条款，并承诺将 20% 的计算资源用于安全研究。
另请阅读：OpenAI 为 ChatGPT 推出实时语音模式
为什么重要
与美国 AI 安全研究所的合作标志着 OpenAI 努力重建信任，并展示对 AI 安全的承诺。通过为其下一个主要生成式 AI 模型提供早期安全测试访问，OpenAI 旨在确保在模型广泛发布之前识别并减轻潜在风险。
此举还与 OpenAI 对《创新未来法案》的支持在战略上同步，该法案是一项提议的参议院法案，将授权 AI 安全研究所作为制定 AI 模型标准和指南的执行机构。OpenAI 加大了游说力度，Altman 在国土安全部人工智能安全与安保委员会中的角色，进一步表明该公司在联邦层面 AI 政策制定方面具有影响力。此次合作旨在让利益相关者和批评者放心，OpenAI 是认真对待 AI 安全问题的，在开发强大的生成式 AI 技术与稳健的安全协议之间取得平衡。