- 科技巨头，包括 OpenAI、谷歌、微软和英伟达，已组建 CoSAI 以增强 AI 应用安全。
- CoSAI 将通过三个开源项目开发风险缓解框架、简化 AI 网络安全管理，并解决供应链漏洞。
我们的观点
科技巨头推出 CoSAI，标志着对 AI 安全的积极姿态，旨在解决漏洞并促进创新和最佳实践的协作环境。该联盟通过协同整合碎片化的 AI 安全格局，旨在使 AI 系统面向未来，在不断演变的数字环境中保持其鲁棒性和弹性。
–Vicky Wu，BTW 记者
事件经过
领先的科技巨头联合成立了安全人工智能联盟（CoSAI），这是一个旨在增强人工智能应用安全的网络安全联盟。该联盟在阿斯彭安全论坛上宣布，将在 OASIS 的框架下运作。OASIS 是一个负责监管专注于提升网络安全的开源软件项目的非营利组织。
CoSAI 的创始成员包括行业巨头，如 OpenAI、Anthropic、AWS、微软、谷歌、英伟达、英特尔、IBM、思科、PayPal、Wiz 和 Chainguard。它们的共同使命是双重的：开发用于保护 AI 应用安全的工具和指南，并培育一个共享 AI 网络安全最佳实践和技术的生态系统。
为了实现这些目标，CoSAI 启动了三个开源工作流。首先，CoSAI 计划开发一个框架，帮助软件团队识别并减轻机器学习工作负载中的网络安全风险，该框架包含常见漏洞的分类法和修复方法，以及用于持续监控的网络安全记分卡。其次，该联盟旨在通过识别战略投资并部署缓解技术来简化 AI 网络安全风险管理。最后，解决软件供应链风险是重中之重，重点是简化对来自 GitHub 等代码库的外部组件在复杂项目中漏洞的分析。
另请阅读：谷歌、微软向中国提供英伟达 AI 芯片
为何重要
像 CoSAI 这样的联盟的形成，体现了对 AI 安全重要性的集体觉醒。在共同责任的驱动下，大型企业联合起来，共同应对 AI 独特的安全挑战。通过整合资源，这些实体可以集体应对 AI 固有的脆弱性，有效缓解诸如对抗性输入和数据泄露等复杂威胁。跨组织的协作加速了创新，推动安全技术和技巧的进步，利用集体智慧实现突破。遵守监管要求并建立公众信任同样至关重要。企业可以通过展示对 AI 安全的承诺，积极影响政策，安抚用户并增强他们对 AI 技术的信心。
“我们已经使用 AI 很多年了，看到了它为防御者带来的持续潜力，但我们也认识到它给对手带来的机会，”谷歌安全副总裁 Heather Adkins 在一份声明中表示。“CoSAI 将帮助大小组织安全、负责任地整合 AI，帮助它们在降低风险的同时利用其优势。”