ディープフェイクの幻想を見破り、欺瞞から身を守る

『ディープフェイクの幻想を見破り、欺瞞から身を守る』は、BTW Media によってプロファイルされています。なぜなら、公開された証拠がインターネットインフラストラクチャ、ガバナンス、運用上の依存関係、または市場での可視性に結びついているからです。

• ディープフェイクは、深層学習技術と偽造コンテンツの生成を組み合わせることで、説得力のある音声、動画、視覚的な欺瞞を作り出します。
• ディープフェイクは、エンターテインメントやカスタマーサービスでの利用がありますが、より深刻な用途としては、偽情報の拡散やなりすまし詐欺の助長が含まれます。
• ディープフェイクに対抗するための現在進行中の軍拡競争により、Sentinel や Sensity AI などの検出ツール、および C2PA のような共同イニシアチブの開発が促進されています。

AI によって駆動されるディープフェイクは、説得力のある音声、動画、視覚的な欺瞞を作り出し、エンターテインメントでの無害な利用例から、偽情報の拡散やなりすまし詐欺の助長といった悪質な利用まで、二つの懸念を引き起こします。この脅威に対抗するため、Sentinel や Sensity AI などの検出ツールが登場し、C2PA のようなイニシアチブも進められています。

ディープフェイク AI とは？

ディープフェイク AI は、説得力のある欺瞞的な画像、音声、動画を生成するために使用される人工知能の一形態です。この用語は、技術自体と、それによって生成された欺瞞的なコンテンツの両方を包含し、「深層学習（ディープラーニング）」と「フェイク（偽）」を組み合わせた造語です。

ディープフェイクは通常、既存の素材を操作して、ある人物を別の人物に置き換えます。また、個人が実際には行っていない行動や、言っていない発言をしているかのように見せかける、まったく新しいコンテンツを生成することもあります。

ディープフェイクに関する主な懸念は、信頼できる情報源からのように見える偽情報を拡散する能力です。例えば、2022 年には、ウクライナの Volodymyr Zelenskyy 大統領が自軍に降伏するよう促しているとされるディープフェイク動画が拡散されました。

選挙への潜在的な干渉や選挙プロパガンダの拡散についても懸念があります。UVA 政治センターのアカデミックプログラム責任者である Carah Ong Whaley 氏は、「政治コンサルタント、選挙運動、候補者、さらには一般の人々までもが、この技術がどのように機能するのか、さらに重要なことに、それが引き起こす可能性のあるあらゆる危険性を完全に理解しないまま使用しています」と述べました。「私は特に、AI がディープフェイクを通じてだけでなく、生成 AI が SMS や電子メールキャンペーンを通じて超強力なマイクロターゲティングを実行できることを通じて、有権者操作に使用されることを懸念しています」と彼女は付け加えました。

政治コンサルタント、選挙運動、候補者、さらには一般の人々までもが、この技術がどのように機能するのか、さらに重要なことに、それが引き起こす可能性のあるあらゆる危険性を完全に理解しないまま使用しています。

Carah Ong Whaley、UVA 政治センターアカデミックプログラム責任者

ディープフェイクには重大なリスクが伴いますが、ビデオゲームの音声やエンターテインメント、カスタマーサポート、コール転送や受付サービスなどの電話応答システムなど、正当な用途もあります。

こちらもお読みください：生成 AI はディープフェイクなのか？

ディープフェイク技術の用途

悪質な用途

脅迫と風評被害:これは、標的の画像が、大衆を欺く、露骨な性的行為に参加する、薬物を使用するなどの違法、不適切、または危険なシナリオに配置された場合に発生します。このような動画は、被害者を強要したり、個人の評判を傷つけたり、復讐を企てたり、サイバーいじめに利用されたりします。最も蔓延している脅迫または復讐の形態は、非合意のディープフェイクポルノ、一般にリベンジポルノと呼ばれるものです。2019 年には、ワンクリックで女性を裸にする「DeepNude」と呼ばれるソフトウェアが開発され、悪意ある目的、特に女性への嫌がらせのために急速に広まりました。

偽の証拠:偽造されたディープフェイクの画像や音声が法的手続きにおいて証拠として提示され、個人を誤って巻き込んだり、不正行為の嫌疑を晴らしたりする可能性があります。

詐欺:ディープフェイクは、しばしば銀行口座情報やクレジットカード番号などの機密性の高い個人情報を入手する目的で、個人になりすますために使用されます。このなりすましは、機密データにアクセスできる経営幹部や従業員にまで及ぶ可能性があり、サイバーセキュリティに重大な脅威をもたらします。

また、IEEE Spectrum によると、「バイオメトリクス企業 iProov が実施したサイバーセキュリティ業界の調査では、回答者の 4 分の 3 以上が、ディープフェイクに関する最大の懸念事項としてなりすまし詐欺を挙げました。」

偽情報と政治的操作:政治家や信頼されている人物のディープフェイク動画は、世論を操作し混乱を引き起こすために使用され、しばしばフェイクニュースの拡散に寄与します。米国元大統領 Barack Obama、当時の米国大統領 Donald Trump、米国政治家 Nancy Pelosi、ドイツの Angela Merkel 首相など、ほぼすべての世界的指導者が何らかの形で偽動画に悪用されており、Facebook 創設者の Mark Zuckerberg でさえ同様の事例に直面しています。ウクライナの Volodymyr Zelenskyy 大統領のディープフェイク動画などの事例は、ディープフェイクが紛争を悪化させ、状況を不安定にする可能性を示しています。

クイズ

政治家や信頼されている人物のディープフェイク動画は、どのように偽情報に寄与するのでしょうか？
A. 正確な情報を一般に提供することで
B. 世論を操作し混乱を引き起こすことで
C. 政治腐敗を暴くことで
D. 政府の透明性を促進することで

正解は記事の末尾にあります。

有益な用途

アート:ディープフェイクは、既存のアーティストの作品の録音から新しい楽曲を生成するために使用され、音楽制作やリミックスの革新的なアプローチを可能にします。また、ディープフェイク技術はアート制作を民主化し、より広範な人々が利用できるようにしました。アーティストは革新的な作品を生み出し、ユニークな体験で観客を魅了できます。例えば、フロリダ州セントピーターズバーグのダリ美術館は、ディープフェイク技術を使って Salvador Dalíを蘇らせ、来館者がこの有名な芸術家と人工知能を通じて交流できるようにしました。

デジタルマーケティング:ディープフェイク技術は、関与度が高く没入感のあるコンテンツを作成するために、デジタルマーケティング戦略でますます使用されています。ディープフェイクを活用することで、マーケターは個人の好みや人口統計学的特性に合わせて高度にパーソナライズされた広告や販促資料を開発できます。例えば、ディープフェイクを使用して、実際のシナリオに製品画像を重ね合わせ、消費者が自分の環境で製品の利点を視覚化できるようにします。さらに、ディープフェイク技術は説得力のあるストーリーテリングキャンペーンを可能にし、ブランドエンゲージメントを高め、顧客ロイヤルティを築きます。また、ディープフェイクはマーケターに既存のコンテンツを革新的に再利用する方法を提供し、広告キャンペーンの投資収益率を最大化します。

「この技術はデジタルマーケティングでますます応用されており、企業がコストを削減し、プロモーションキャンペーンをより簡単に設計し、提供内容をパーソナライズし、消費者にユニークな体験を提供するだけでなく、社会的に重要な特定のデリケートな問題についてターゲット市場の意識を高めることも可能にします」と、メガトレンド大学の大学院・科学研究担当副学部長でマーケティング、コミュニケーション、マネジメントの教授である Radoslav Baltezarevic 氏は述べています。

この技術はデジタルマーケティングでますます応用されており、企業がコストを削減し、プロモーションキャンペーンをより簡単に設計し、提供内容をパーソナライズし、消費者にユニークな体験を提供するだけでなく、社会的に重要な特定のデリケートな問題についてターゲット市場の意識を高めることも可能にします。

Radoslav Baltezarevic、メガトレンド大学 大学院・科学研究担当副学部長、マーケティング・コミュニケーション・マネジメント教授

電話応答サービス:これらのサービスは、ディープフェイクを利用して、発信者の問い合わせにパーソナライズされた応答を提供し、特にコール転送や受付業務において、顧客エンゲージメントと満足度を向上させます。

カスタマー電話サポート:ディープフェイク技術で生成された合成音声を使用することで、カスタマーサポートサービスは、口座残高の確認やクレームの提出などの定型的なタスクを合理化し、効率性とユーザーエクスペリエンスを向上させます。

エンターテインメント:エンターテインメント業界は、映画やビデオゲームのシーンのために俳優の声のクローン作成や操作など、さまざまな目的でディープフェイクを活用しています。物流上の制約が従来の撮影を困難にする場合や、ポストプロダクションでの声の録音に俳優が対応できない場合に、このアプローチは価値があります。さらに、ディープフェイクは風刺やパロディのコンテンツにも貢献し、視聴者にユーモアのある視点やおなじみのキャラクターの創造的な解釈を提供します。代表的な例として、Dwayne "The Rock" Johnson がドーラ・ザ・エクスプローラー役で登場した 2023 年のディープフェイクが、ディープフェイク技術を使った遊び心のある実験の可能性を示しています。

こちらもお読みください：ディープフェイク AI は違法なのか？

ディープフェイクの検出ツールと技術

ディープフェイク検出ツールとは、ディープフェイク動画や画像を識別・検出するために設計されたソフトウェアまたはシステムです。通常、さまざまな方法でデジタルコンテンツを分析し、AI によって操作または生成されたかどうかを判断します。

ディープフェイクの増加に伴い、ディープフェイク検出ソフトウェアは、偽の動画や音声録音の有害な影響から身を守るためにますます普及しています。世界のディープフェイク検出ソフトウェア市場は、2024 年から 2029 年にかけて 38.3%の CAGR（年平均成長率）が見込まれています。また、偽画像検出市場の規模は、2024 年の 6 億ドルから 2029 年には 39 億ドルに達し、予測期間中の年平均成長率（CAGR）は 41.6%と予測されています。

最近、OpenAI は、AI 画像生成ツールである DALL-E によって作成された画像を検出するツールを発表しました。専門家は、AI 生成ディープフェイクが選挙に与える影響について警告しています。この検出器は DALL-E 画像には有効ですが、他の画像には有効ではなく、偽情報研究者によってテストされる予定です。OpenAI は、AI コンテンツの透かし埋め込みにも取り組んでおり、デジタルコンテンツの真正性を確保するための C2PA のような取り組みにも参加しています。

OpenAI がディープフェイク検出器を導入する以前から、すでに高性能な検出器が利用可能でした。

Sentinel:Sentinelは、民主主義政府、防衛機関、企業がディープフェイクの脅威に対抗するのを支援する、AI ベースの保護プラットフォームです。欧州中の有力組織が、その防御のために Sentinel の技術に依存しています。この仕組みは、ユーザーが Web サイトまたは API を通じてデジタルコンテンツを送信し、その後、AI による改ざんを自動的に検査するというものです。システムはコンテンツの真正性を判別し、加えられた操作のグラフィカルな表現を提供します。

Deepware:Deepwareは、ディープフェイク動画を検出するために設計されたユーザーフレンドリーなツールです。高度な機械学習アルゴリズムを使用して、異常な顔の動きや照明と影の不整合など、操作の兆候がないか動画コンテンツを分析します。ディープフェイクである可能性を示す確率スコアを提供し、ユーザーが迅速にその真正性を評価するのに役立ちます。

Sensity:Sensityは、ディープフェイクをリアルタイムで検出する包括的なプラットフォームを提供します。コンピュータビジョンと深層学習技術を組み合わせて、動画フレームと音声信号を分析します。Sensity の技術は、フェイクニュースや悪意のあるコンテンツの拡散から身を守るために、政府やメディアで使用されています。

Microsoft の動画認証ツール:Microsoft の動画認証ツールは、静止画と動画コンテンツの両方を調べ、潜在的な操作を示す信頼度スコアを提供する強力なリソースです。ディープフェイクに固有の融合境界や、人間の目には知覚できない微妙なグレースケールのニュアンスを巧みに識別します。さらに、この信頼度スコアを即座に提供するため、ディープフェイクの迅速な識別が容易になります。

Intel の FakeCatcher:96%という驚異的な精度を誇る FakeCatcher は、ミリ秒単位で結果を提供します。ニューヨーク州立大学ビンガムトン校の Umur Ciftci 氏との共同開発により、FakeCatcher は Intel のハードウェアとソフトウェアを使用し、サーバー上で動作し、Web インターフェースを介してアクセスできます。FakeCatcher は、本物の動画を分析して人間の行動を定義する手がかりを探すという斬新なアプローチを取っています。動画のピクセルに見える「血流」などの微妙な指標に焦点を当てます。血流が移動すると静脈の色が変化し、これらの微妙な信号が顔のさまざまな領域から収集されます。次に、高度なアルゴリズムがこれらの信号を時空間マップに変換します。深層学習技術により、FakeCatcher は動画の真正性を迅速に判断し、本物のコンテンツと偽造されたコンテンツを区別します。

正解は B、世論を操作し混乱を引き起こすことです。