- OpenAI 首席执行官 Sam Altman 宣布，该公司正与美国 AI 安全研究所合作，为其下一款主要生成式 AI 模型提供早期访问权限，以进行安全测试。
- OpenAI 承诺取消限制性的非贬低条款，成立安全委员会，并将 20% 的计算资源用于安全研究。
本刊观察
OpenAI 已宣布与美国 AI 安全研究所合作，为其即将推出的先进生成式 AI 模型提供早期访问权限，以进行深入的安全测试。此举旨在回应外界对该公司在追求更强大 AI 技术时可能忽视安全问题的担忧，并展现了 OpenAI 在 AI 安全研究方面的积极姿态。与此同时，该公司今年在联邦游说活动上的支出大幅增加，表明 OpenAI 正力争在国家 AI 政策制定中发挥更大作用，以确保其技术发展与安全标准保持同步。
- Rae Li，BTW 记者
事件经过
Sam Altman，OpenAI 首席执行官，表示该公司正与美国 AI 安全研究所 合作，为其即将推出的先进生成式 AI 模型提供早期访问权限，以进行深入的安全测试。此举旨在回应外界对公司在追求更强大 AI 技术时可能忽视安全问题的担忧，并彰显了 OpenAI 在 AI 安全研究方面的积极姿态。同时，该公司今年在联邦游说活动上的支出大幅增加，表明 OpenAI 正力争在国家 AI 政策制定中发挥更大作用，以确保其技术发展与安全标准保持同步。
OpenAI 承诺取消限制性的非贬低条款，成立安全委员会，并将 20% 的计算资源用于安全研究。这些措施旨在加强公司内部的安全研究和开发流程，以确保 AI 技术的安全性和可靠性。同时，OpenAI 首席战略官 Jason Kwon 回应了五位参议员关于公司政策的质询，阐述了公司致力于在每个阶段实施严格安全协议的承诺。
另请阅读：Coinbase 新增三名董事会成员，其中包括 OpenAI 高管
另请阅读：OpenAI 的 SearchGPT：挑战谷歌的搜索霸主地位
为何重要
OpenAI 与美国 AI 安全研究所的合作及其对安全测试的重视，表明 AI 行业在快速技术发展的同时，越来越关注安全和伦理问题。这种合作将有助于提升公众对 AI 技术安全的信心，并为 AI 技术的健康发展树立新的标准和规范。通过与政府机构紧密合作，OpenAI 确立了其在 AI 安全领域的领导地位及对行业责任的承诺。
OpenAI 在联邦游说活动上增加投入，并致力于 AI 安全研究，这揭示了该公司在 AI 政策制定过程中的积极参与和影响力。通过这些举措，OpenAI 正试图确保技术进步与社会积极影响相伴而行。