• OpenAI、Google、Microsoft、Nvidia などのテクノロジー大手が、AI アプリケーションのセキュリティを向上させるために CoSAI を結成しました。
  • CoSAI は、3 つのオープンソースイニシアチブを通じて、リスク軽減フレームワークの開発、AI サイバーセキュリティ管理の簡素化、サプライチェーンの脆弱性対処に取り組みます。

私たちの見解
テクノロジー大手による CoSAI の設立は、脆弱性に対処し、イノベーションとベストプラクティスのための協力的な環境を促進することで、AI セキュリティに対する積極的な姿勢を示しています。断片化された AI セキュリティの状況に一貫して取り組むことで、この同盟は AI システムの持続可能性を確保し、絶えず進化するデジタル環境における堅牢性と回復力を維持することを目指しています。
–Vicky Wu、BTW ジャーナリスト

何が起こったか

大手テクノロジー企業が結集し、人工知能アプリケーションのセキュリティ強化を目的としたサイバーセキュリティコンソーシアム「Coalition for Secure AI（CoSAI）」を設立しました。Aspen Security Forumで発表された CoSAI は、サイバーセキュリティの向上に焦点を当てたオープンソースソフトウェアプロジェクトを監督する非営利団体 OASIS の下で運営されます。

CoSAI の創設メンバーには、OpenAI、Anthropic、AWS、Microsoft、Google、Nvidia、Intel、IBM、Cisco、PayPal、Wiz、Chainguard などの業界大手が名を連ねています。共通の使命は 2 つあり、AI アプリケーションを保護するためのツールとガイドラインを開発すること、そして AI サイバーセキュリティのベストプラクティスとテクノロジーを共有するエコシステムを育成することです。

CoSAI はこれらの目標を達成するために、3 つのオープンソースワークストリームを立ち上げます。第 1 に、CoSAI は、ソフトウェアチームが機械学習ワークロードにおけるサイバーセキュリティリスクを特定し、軽減するためのフレームワークの開発を計画しています。これには、一般的な脆弱性の分類と修復方法、および継続的監視のためのサイバーセキュリティダッシュボードが含まれます。第 2 に、この連合は、戦略的投資の特定と軽減技術の展開を通じて、AI サイバーセキュリティリスク管理を簡素化することを目指しています。最後に、ソフトウェアサプライチェーンのリスク管理が優先事項であり、複雑なプロジェクトにおける GitHub などのリポジトリからの外部コンポーネントの脆弱性分析の合理化に重点が置かれています。

あわせて読みたい：OpenAI の「Strawberry」プロジェクトが AI 推論を進歩させる

あわせて読みたい：Google と Microsoft が中国に Nvidia AI チップを提供

なぜ重要か

CoSAI のような連合の形成は、AI セキュリティの重要性に対する集団的な認識を示しています。共有された責任に駆り立てられ、大手企業は AI セキュリティの特有の課題に取り組むために団結しています。リソースをプールすることで、これらのエンティティは AI に内在する脆弱性に集団的に対処し、敵対的入力やデータ侵害などの高度な脅威を効果的に軽減できます。組織間のコラボレーションによって加速されるイノベーションは、セキュリティ技術とテクニックを前進させ、集団的な専門知識を飛躍的進歩に活用します。規制遵守と公共の信頼も同様に重要です。企業は、AI セキュリティへのコミットメントを示すことで、政策に積極的に影響を与え、ユーザーを安心させ、AI テクノロジーへの信頼を強化できます。

「私たちは長年 AI を使用しており、防御側にとっての継続的な可能性を見出す一方で、攻撃側にとっての機会でもあることを認識しています」と、Google のセキュリティ担当副社長 Heather Adkins 氏は声明で述べました。「CoSAI は、大企業から中小企業まで、組織が安全かつ責任を持って AI を統合し、その利点を活用しながらリスクを軽減するのに役立ちます。」