中国、AI による偽情報で選挙妨害を計画

中国が AI による偽情報を用いて選挙妨害を企てている件は、公開された証拠がインターネットインフラストラクチャ、ガバナンス、運用上の依存関係、または市場の可視性に関連しているため、BTW Media によってプロファイルされています。

• マイクロソフトは、中国のサイバー組織が北朝鮮の支援を受けて、今年、アメリカ、韓国、インドでの大統領選挙と議会選挙を標的にし、自らの立場を支持するために AI 生成コンテンツを利用する可能性があると警告しました。
• 中国が用いる戦術には、「AI 生成」の可能性がある偽の音声クリップの公開、元大統領候補がライバルを支持しているとする描写、AI 生成のミームなどが含まれます。

マイクロソフトの脅威インテリジェンスチームによると、中国政府は 2024 年に複数の重要な選挙に影響を与えるため、AI が生成する高度な偽情報キャンペーンを強化すると予想されています。

中国の戦略

マイクロソフトは警告を発し、今年のアメリカ、韓国、インドなどの国々での大統領選挙および議会選挙は、国家の支援を受けた中国のサイバーグループによって「標的にされる可能性が高い」と述べ、北朝鮮のアクターの支援も指摘しました。金曜日に発表された調査でマイクロソフトは、「ミーム、動画、音声を増やす中国の試みは拡大し続け、効果的になる可能性が高いが、こうしたコンテンツの一般への影響は今のところ比較的小さい」と警告しました。

「1 月の台湾総統選挙で中国が AI 合成偽情報を利用した最近の動きは、この新たな脅威の前兆となった」と、マイクロソフトは金曜日に発表した報告書で警告しました。マイクロソフトの評価によると、Storm 1376 または Spam Fake Dragon として知られる親北京派グループが、AI 生成コンテンツを使って外国の選挙に影響を与えようとしたのはこれが初めての試みでした。

中国の支援を受けた工作員が用いた戦術には、AI 生成の可能性がある偽の音声クリップの公開が含まれており、それは元大統領候補がライバルを支持する様子を描写したものや、最終的に当選した主権派候補の William Lai に対する根拠のない汚職疑惑を AI 生成ミームで流布するというものでした。

関連記事：Microsoft、ずさんなセキュリティが中国のサイバー攻撃を招いたと発表

関連記事：ICANN、2024 年アジア太平洋ドメインネームシステムフォーラムの詳細を発表

AI が生み出す影響

マイクロソフトの報告書は、「インド、韓国、アメリカで人々が投票に向かう中、中国のサイバー影響工作員、そしてある程度は北朝鮮のアクターがこれらの選挙に反対する動きを見せる可能性がある」と指摘しています。中国の組織は、ソーシャルメディアキャンペーンを通じて、アメリカの分断を招く問題や有権者グループを描写しようとしました。これは米大統領選を前に「情報収集と主要な有権者層の特定」を目的としている可能性があります。

こうしたリスクを強調する一方で、マイクロソフトは、AI に基づく偽情報がこれまでのところ世界の世論形成に限定的な成功しか収めていないことを認めました。しかしマイクロソフトは、中国政府の AI への投資の増加と、その技術の高度化が進んでいることにより、