来自 The Verge 播客：关于伊利亚·苏茨克维、AI 与安全超级智能的 5 点思考

《关于伊利亚·苏茨克维、人工智能与安全超级智能的 5 个想法》由 BTW Media 进行档案记录，因为公开证据表明其与互联网基础设施、治理、运营依赖性或市场可见性有关联。

• OpenAI 联合创始人伊利亚·苏茨克维（Ilya Sutskever）上月离开这家人工智能初创公司后，推出了他新的 AI 公司，他称之为安全超级智能（Safe Superintelligence），简称 SSI。
• SSI 的诞生源于对先进 AI 技术伦理影响的深刻关注。

离开 OpenAI 仅一个月后，AI 领域杰出人物、OpenAI 联合创始人伊利亚·苏茨克维公布了他的新创业项目：安全超级智能公司（Safe Superintelligence Inc.，简称 SSI）。我们从 The Verge 的尼莱·帕特尔（Nilay Patel）、亚历克斯·克兰兹（Alex Cranz）和亚历克斯·希思（Alex Heath）关于 AI 的 10 分钟播客讨论中，提炼出苏茨克维新项目的五个关键想法。

1.安全超级智能的起源

苏茨克维强调，SSI的起源源于对先进 AI 技术伦理影响的深刻关注。“在 SSI，我们的使命不仅仅是创造超级智能 AI，还要确保其以安全、合乎伦理并与人类价值观一致的方式进行开发和部署，”他强调。这一项目代表了一种积极应对 AI 相关存在性风险的方法，为该领域的负责任创新设立了新标准。

另请阅读：今日科技新闻头条：2024 年 6 月 20 日

另请阅读：伊利亚·苏茨克维成立新 AI 公司

2.从底层集成安全性

苏茨克维方法的核心是将安全措施融入 AI 开发的核心。“安全不能是事后追加的东西，”他断言。“从最初的设计阶段到部署，每一步都必须优先考虑安全与伦理因素。”SSI 的框架融入了严格的测试、透明度和持续评估，以减轻与超级智能 AI 系统相关的潜在风险。

3.合作与知识共享

SSI 倡导学术界、产业界和政策制定者之间的协作，共同塑造 AI 安全的未来。苏茨克维强调了知识共享和开放对话的重要性。“通过促进合作，我们可以利用多样化的专业知识来应对复杂挑战，并确保 AI 造福整个社会，”他解释道。SSI 积极参与旨在推进全球 AI 安全标准与实践的伙伴关系和倡议。

4.合乎伦理的 AI 治理

伦理治理是 SSI 使命的基石。苏茨克维强调了明确的伦理指导方针和治理框架对于指导 AI 发展的必要性。“伦理应该指导每一个决策——从算法设计到部署策略，”他说道。SSI 倡导优先考虑人类福祉、公平和 AI 系统问责制的政策，以促进利益相关者之间的信任和采纳。

5.透明度与问责制

透明度是建立对 AI 技术信任的关键。苏茨克维强调了 SSI 在 AI 研发过程中对透明度的承诺。“我们相信公开分享我们的发现、方法和成果，”他断言。“这种透明度不仅培养信任，还允许独立审查和改进我们的方法。”SSI 要求自己对最高标准的伦理行为负责，并鼓励全行业范围的透明度实践。

随着安全超级智能公司成为 AI 安全研究与开发的领导者，苏茨克维的见解强调了伦理 AI 治理、合作和透明度在塑造人工智能未来方面的重要性。SSI 致力于安全与社会效益，旨在为负责任的 AI 创新铺平道路，造福人类。