• Ilya Sutskever 的初创公司 Safe Superintelligence 已筹集 10 亿美元，用于开发超越人类能力的安全 AI 系统。
  • 该公司致力于打造一个值得信赖的团队，专注于 AI 安全研究，同时在市场波动中吸引了大量投资。

我们的观点
Ilya Sutskever 创立 Safe Superintelligence，是应对日益增长的 AI 安全及相关风险担忧的关键一步。SSI 拥有充足的资金并专注于负责任的发展，可能会在塑造人工智能的未来方面发挥关键作用，从而优先考虑人类的福祉。
——Lily, Yang，BTW 记者

发生了什么

OpenAI 的联合创始人 Ilya Sutskever 创办了一家名为 Safe Superintelligence 的新初创公司，最近获得了 10 亿美元融资，旨在创建先进且安全的人工智能系统。该公司目前仅有 10 名员工，计划将资金用于采购计算资源和招聘顶尖人才。

SSI 总部位于加利福尼亚州帕洛阿尔托和以色列特拉维夫，内部消息人士称其估值约为 50 亿美元。知名投资者包括 Andreessen Horowitz、Sequoia Capital 和 DST Global。SSI 强调在产品上市前进行广泛研发的重要性，重点是防止失控的 AI 造成危害，这是当今行业中的一个紧迫问题。

更多阅读：关于 Ilya Sutskever、AI 和 Safe Superintelligence 的 The Verge 播客中的 5 大观点

更多阅读：Ilya Sutskever 创立新 AI 公司

为什么重要

Sutskever 宣布获得 10 亿美元投资，凸显了尽管初创企业面临更广泛的融资挑战，投资者对 AI 安全的兴趣依然浓厚。此举可能会通过优先考虑安全和道德来缓解公众对先进 AI 危险的担忧。

SSI 对安全超级智能的关注可能会影响未来的 AI 政策，并促进负责任的创新，其长期影响仍有待观察。对监管举措的不同反应，尤其是在加利福尼亚州，突显了行业内的分歧。一些公司主张更严格的安全措施，而其他公司则抵制监管，这表明了关于如何最好地治理 AI 发展的关键辩论。