AI の「ワーム」がサイバーセキュリティの脆弱性に警鐘

「AI ‘worm’ raises alarm on cybersecurity vulnerabilities」は、インターネットインフラストラクチャ、ガバナンス、運用上の依存関係、または市場の可視性に結びつく公開証拠があるため、BTW Media でプロファイルされています。

• 研究者たちは、ChatGPT や Gemini などの生成 AI メールアシスタントに侵入し、セキュリティ対策を突破して機密情報を抽出し、スパムメッセージを配信する可能性がある AI「ワーム」を作成した。
• 研究者たちは、これらのワームがデータの完全性を損ない、何も知らないユーザーに拡散する可能性を示した。

ある研究グループが、生成 AI ワームの最初の事例の一つと主張するものを発表した。これはシステムを通じて拡散し、データの窃取やマルウェアの拡散を行う可能性がある。この進展は、接続された AI エコシステムに内在する脆弱性を浮き彫りにし、これらの技術を活用するテクノロジー企業や開発者に対する強力な警告となっている。

AI システムの脆弱性を悪用

研究者の Ben Nassi、Stav Cohen、Ron Bitton によって作成された AI ワーム「Morris II」は、1988 年の破壊的な Morris コンピュータワームにちなんで名付けられました。研究者たちは「自己複製型の敵対的プロンプト」を悪用し、この悪意ある存在が ChatGPT や Gemini などの生成 AI メールアシスタントに侵入し、セキュリティ対策を破って機密情報を抽出し、スパムメッセージを拡散する方法を実証しました。この発見は、生成 AI ワームがもたらす新たな脅威に光を当てるものであり、専門家は制御されなければ広範な影響を及ぼす可能性があると警鐘を鳴らしています。

研究者の方法論は、テキスト形式および画像ファイルに埋め込まれた自己複製プロンプトを注入することで、AI システムの脆弱性を悪用するというものでした。複数の生成 AI モデルと統合されたメールシステム上で一連の模擬攻撃を行うことで、チームはこれらのワームがデータの完全性を損ない、何も知らないユーザーに拡散する様子を実証しました。従来のサイバー攻撃であるSQL インジェクションと同様に、AI に応答でさらなる指示を生成させることで、研究者たちはこの新しいタイプの脅威の潜在的な規模を浮き彫りにしました。

関連記事：Change Healthcare へのサイバー攻撃、セキュリティ上の懸念を引き起こす

主要プレイヤーへの警告と行動の呼びかけ

この研究は制御された環境で実施され、一般に利用可能なプラットフォームに対して行われたものではありませんが、その影響は深刻です。大規模言語モデルが進化を続け、画像や動画を含むマルチモーダルな機能に多様化するにつれて、悪用の範囲が拡大します。生成 AI ワームの出現は、AI エコシステム内での強固なサイバーセキュリティ対策の緊急の必要性を浮き彫りにし、業界の関係者に新たな脅威に対する防御を強化するよう促しています。

関連記事：ChatGPT のダウン原因は人気ではなく DDoS 攻撃

強固なサイバーセキュリティ対策の緊急性

この調査結果を受けて、Google や OpenAI などの AI 分野の主要プレイヤーに警告が発せられました。OpenAI は脆弱性を認識し、このような攻撃に対する耐性を向上させることにコミットしている一方で、Google はこの件について口を閉ざしています。この研究は、AI ランドスケープにおける警戒とプロアクティブなセキュリティ対策の必要性を喚起する警鐘であり、潜在的な侵害を阻止するための安全なアプリケーション設計と注意深い監視の重要性を強調しています。

生成 AI ワームの脅威が目前に迫る中、専門家はこれらの存在がもたらす将来のリスクは現実的な懸念であると警告しています。自律的にタスクを実行する AI アプリケーションの急増により、悪意ある行為者が隙間を突く可能性は差し迫った現実です。開発者と業界関係者は、今後数年間で実環境に侵入する生成 AI ワームの差し迫った脅威を軽減するために、セキュリティプロトコルと厳格な保護策を導入し、一歩先を行く責任があります。