OpenAI 组建团队控制‘超级智能’AI

BTW Media 将‘OpenAI 组建团队控制超级智能 AI’作为分析对象，因为有公开证据表明其与互联网基础设施、治理、运营依赖性或市场可见性相关联。

• OpenAI 的超级对齐团队，负责监管“超级智能”AI 系统，曾获公司承诺可获得 20%的计算能力。然而，他们在请求即使只是部分分配时，也经常遭到拒绝，这阻碍了他们的进展。
• 在诸多担忧中，包括联合负责人 Jan Leike 在内的数名团队成员本周辞职。Leike 曾是 DeepMind 的研究员，参与了 ChatGPT、GPT-4 及其前身 InstructGPT 的开发，他指出分配问题等是离职的原因。
• 周五早上，Leike 公开了他辞职的部分原因。他在 X 平台上的一系列帖子中写道：“关于公司的核心优先事项，我与 OpenAI 领导层存在分歧已经有相当长一段时间，直到我们终于达到了一个临界点。”

OpenAI 的超级对齐团队的任务是指导先进的 AI 系统，他们被承诺获得大量计算资源，但请求常常被拒绝，阻碍了进展。这导致包括联合负责人 Jan Leike 在内的数人辞职，Leike 曾参与开发 ChatGPT、GPT-4 及它们的前身 InstructGPT。Leike 指出与 OpenAI 领导层在优先事项上的分歧，强调需要专注于为未来的 AI 模型、安全、保护、对齐和社会影响做准备。

另请阅读：Reddit 与 OpenAI 宣布合作

超级对齐团队

OpenAI 于去年 7 月组建了超级对齐团队，由 Leike 和 OpenAI 联合创始人 Ilya Sutskever 领导，后者本周也从公司辞职。该团队制定了雄心勃勃的目标：在未来四年内解决控制超级智能 AI 的核心技术挑战。团队成员包括来自 OpenAI 此前对齐部门的科学家和工程师，以及公司内其他组织的研究人员，他们将贡献研究，为内部和外部模型的安全提供信息，并通过包括研究资助计划在内的举措，向更广泛的 AI 行业寻求并分享工作。

超级对齐团队确实成功发表了一批安全研究成果，并向外部研究人员提供了数百万美元的资助。但是，随着产品发布开始占据 OpenAI 领导层越来越多的精力，超级对齐团队发现自己不得不争取更多的前期投资——他们认为这些投资对于实现公司公开宣称的开发造福全人类的超级智能 AI 的使命至关重要。

另请阅读：OpenAI 可能发布新 AI 模型直接挑战谷歌

比人类更聪明的机器是危险的

Leike 说：“构建超越人类的机器本身就是一项危险的事业。但在过去几年里，安全文化和流程已经让位于光鲜亮丽的产品。”

在 Leike 等人离职后，另一位 OpenAI 联合创始人 John Schulman 已经接手领导超级对齐团队此前从事的工作，但将不再设立专门的团队——取而代之的是一个分散在公司各个部门的、松散联合的研究小组。OpenAI 的一位发言人将其描述为“更深度地整合（团队）”。

人们担心，这样一来，OpenAI 的 AI 开发将不会像本来可能的那样以安全为重点。