OpenAI 下一代模型将接受美国政府安全检查

BTW 媒体关注“OpenAI 下一代模型接受美国政府安全检查”，因为公开证据表明其与互联网基础设施、治理、运营依赖性及市场可见性有关联。

我们的观点
OpenAI 让其下一代模型接受政府安全检查的举措，为其他科技公司和研究机构在 AI 项目中优先考虑安全、伦理和问责制树立了先例。随着 AI 继续快速发展，确保这些技术的负责任和有益的使用对于在利益相关者和公众之间建立信任和信心至关重要。
——Rebecca Xu，BTW 记者

发生了什么

OpenAI已成为 AI 行业中一个响亮的名字，这得益于 ChatGPT 以及该公司开发的系列基础模型。在Altman的领导下，该实验室积极推动新产品的开发，但这种快节奏的做法也招致了批评，包括其前安全联席主管声称该实验室在先进 AI 研究中忽视了安全问题。

鉴于这些担忧，五位美国参议员最近致信 Altman，质疑 OpenAI 对安全的承诺，以及基于其雇佣合同中的不贬损条款，对公开提出关切的前雇员可能实施的报复行为。

在 X 平台上的一篇帖子中，Sam Altman 透露，OpenAI 一直在与 U.S. AI Safety Institute（一个联邦机构）合作，以建立一项安排，为即将推出的基础模型授予早期访问权限。这一合作旨在推进对 AI 技术的科学理解和评估。

Altman 还强调，该组织已修订了其不贬损政策，现在允许现任和前任员工公开表达对该公司及其项目的担忧。OpenAI 坚持将其至少 20% 的计算资源专门用于 AI 安全研究。

OpenAI 以其在 AI 领域的先进研究和对促进安全、有益于社会的 AI 的承诺而闻名，已与政府机构合作，对其即将推出的模型进行严格的安全评估。此次合作旨在解决模型使用时可能出现的潜在风险，例如意外偏见、安全漏洞和伦理考量。

通过让 AI 模型接受美国政府彻底的安全检查，OpenAI 力图展示其对人工智能领域透明度、问责制和负责任创新的承诺。评估过程将涉及来自各个学科的专家，包括 AI 研究人员、伦理学家、政策制定者以及民间社会的代表。

在 AI 模型开发中引入政府监督的决定，反映了对先进技术的监管框架和安全机制日益重要的认识。同时也凸显了产业界、学术界和政府之间需共同努力，应对 AI 开发与部署带来的复杂挑战。