- 据《华盛顿邮报》获得的举报人信件，举报人声称 OpenAI 因阻止他们提出与技术相关的安全问题而违反了联邦法律。
- OpenAI 于 5 月成立了安全与安保委员会，但并未立即回应就该信件发表评论的请求。
本刊观点
人工智能正在迅速且显著地改变当前科技格局，而 OpenAI 的一些政策和做法阻止员工发声，让他们感到自身权利受到侵犯。安全是生成式人工智能模型快速发展中最大的担忧之一。因此，我们呼吁政府加强对该公司及整个人工智能行业的监管。
——丽贝卡·徐，BTW 记者
事件经过
在《华盛顿邮报》获得的举报人信件中，他们声称OpenAI因阻止他们就技术的安全方面提出关切而违反了联邦法规。该信进一步揭露了 OpenAI 令人震惊的缺乏透明度。
OpenAI 与其员工签订了过度限制的雇佣、离职及保密协议。员工若希望向联邦监管机构披露信息，必须事先获得公司同意，并补充说 OpenAI 在其员工保密条款中没有针对向SEC披露证券违规行为的豁免条款。
信中继续写道：“由于不负责任的人工智能部署的潜在风险有据可查，我们呼吁委员们立即授权对 OpenAI 以往的保密协议展开调查，并评估该公司为确保遵守 SEC 法规而采取的措施”。
面对众多指控，OpenAI 尚未立即回应就该信件发表评论的请求，尽管他们已成立了安全与安保委员会。
另请阅读：举报人要求 SEC 调查 OpenAI 的保密协议
为何重要
这封举报人信件发布之际，正值 OpenAI 被曝警告前员工若公开批评公司可能面临丧失数百万美元风险仅数月之后。这表明举报人信件并非巧合。
OpenAI 聊天机器人的生成式 AI 能力，包括像人类一样对话和根据文本提示生成图像的能力，在 AI 模型日益强大的背景下引发了安全担忧。
OpenAI 应加强公司管理的透明度，并保障员工的合法权利。为使联邦政府在人工智能领域保持领先，OpenAI 的保密协议必须改变。政府加强对企业及整个人工智能行业的监管至关重要。