- OpenAI 前首席科学家伊利亚·苏茨克维在正式离开 OpenAI 仅一个月后，创立了一家新 AI 公司。
- SSI 在帕洛阿尔托和特拉维夫设有办事处，目前正在招聘技术人才。筹集资金将不是问题。
我们的观点
SSI 的成立不仅标志着业务转向，更是对 AI 发展不断变化需求的战略响应。随着苏茨克维和他的团队开启新篇章，他们的集体专业知识和见解有望塑造 AI 技术的未来轨迹，远远超越硅谷。
–Revel Cheng，BYW 记者
伊利亚·苏茨克维，OpenAI 的联合创始人之一，在正式离开 OpenAI 仅一个月后，创立了新公司Safe Superintelligence Inc（SSI）。
发生了什么
苏茨克维曾是 OpenAI 的长期首席科学家，他与前 Y Combinator 合伙人丹尼尔·格罗斯（Daniel Gross）以及前 OpenAI 工程师丹尼尔·莱维（Daniel Levy）共同创立了 SSI。
在 OpenAI，苏茨克维对于随着“超级智能”AI 系统兴起而提升 AI 安全的努力不可或缺，他在这一领域与扬·莱克（Jan Leike）并肩工作，后者共同领导了 OpenAI 的超级对齐团队。然而，在就 AI 安全方针与 OpenAI 领导层发生重大分歧后，苏茨克维和莱克于五月双双离开了公司。
苏茨克维长期以来一直关注 AI 安全中更棘手的问题。在 2023 年发表的一篇博文中，苏茨克维与莱克共同预测，智力超越人类的 AI 可能在十年内出现——而当它出现时，它未必是善意的，这就有必要研究如何控制和限制它。
另请阅读：OpenAI 预见大型语言模型的重大飞跃
为何重要
苏茨克维如今显然仍一如既往地致力于这项事业。周三下午，一条宣布苏茨克维新公司成立的推文表示：“SSI 是我们的使命、我们的名字，以及我们的全部产品路线图，因为它是我们的唯一焦点。我们将安全与能力同步推进，将其作为通过革命性工程和科学突破来解决的技术问题。”
更显著的是，与 OpenAI——它最初于 2015 年作为非营利组织成立，后来当计算能力所需巨额资金变得更为明显时进行了重组——不同，SSI 从一开始就被设计为营利实体。鉴于 AI 领域的关注度以及团队的资历，它也可能很快获得可观的资本。“在我们面临的所有问题中，”格罗斯告诉彭博社，“筹集资金将不是其中之一。”
此次从 OpenAI 的离开，最终可能催生关于治理、责任以及人工智能在社会中伦理边界的更广泛讨论。