• 一部の州では選挙ディープフェイクを禁じる法律があるが、それらの規制は誇張された表現や明らかに虚偽の表現を対象としていないことが多い。
  • これは、何が本物で何が作り物かについての国民の信頼を損なう可能性がある。この信頼の低下は民主社会の機能に有害であると考えられている。

本誌の見解
トランプが公開したような AI 生成画像の使用は、有権者の認識や意見に大きな影響を与える可能性がある。AI 生成コンテンツの拡散は、メディアや情報源に対する全般的な不信感を招く恐れがある。政治的文脈における虚偽情報の拡散を抑制する効果的な政策を策定するには、これらの法的枠組みを理解することが不可欠である。
-Lia XU、BTW 記者

何が起きたか

ドナルド・トランプ前大統領は最近、大統領選挙活動を支援するため、ソーシャルメディアに一連の AI 生成画像を公開した。その中には、ポップスターのテイラー・スウィフトによる偽の支持表明も含まれていた。これらの投稿と並行して、トランプ氏はカマラ・ハリス副大統領が集会で AI を使って偽の群衆画像を作成したと非難した。この非難は、ハリス氏が群衆に話しかける様子を写した AI 生成画像（背景に共産主義のシンボル入り）の拡散と同時期に行われた。スウィフト氏の代理人であるユニバーサルミュージックグループは、トランプ氏の投稿における彼女の画像の使用に関するコメント要請にすぐには応答しなかった。

「AI 登場以前は何でも偽物呼ばわりしていたトランプにとって、これは好都合だ。彼は今、ハリスの群衆のような本物を偽物だと我々に言わせ、AI のゴミを拡散することで、真正性という概念そのもの、そしてある意味で現実さえも損なおうとしている」と、パブリック・シティズンの共同代表ロバート・ワイズマン氏は述べている。

関連記事：Presti が 350 万ドルを調達、AI 家具写真に 7 万 5000 枚の画像を使用

関連記事：TikTok、AI 生成コンテンツの自動ラベル付けを開始

なぜ重要か

虚偽の支持表明を作成するために AI を利用することは、公人やメディアへの信頼を損なう。テイラー・スウィフトのような影響力のある人物が虚偽の表現をされた場合、支持の信憑性や政治メッセージの誠実さに対する国民の信頼が損なわれる恐れがある。さらに、偽の支持表明の作成と拡散は、重大な倫理的問題を提起する。それは、しばしば政治的または経済的目的のための欺瞞と操作を伴い、国民の認識や行動に実際の影響を及ぼす可能性がある。

AI 生成コンテンツの悪用は、名誉毀損や詐欺の訴訟などの法的問題を引き起こす可能性がある。また、AI 技術の規制や、デジタル欺瞞に対して個人に責任を負わせる方法についても疑問を投げかける。この事例は、メディアリテラシー教育の向上が緊急に必要であることを浮き彫りにしている。AI 技術が高度化するにつれ、国民はオンラインコンテンツを批判的に評価し、偽物を見抜くスキルを身につけなければならない。