ディープフェイク AI はどのように機能するのか？

How does deepfake AI work?は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に関連しているため、BTW Media によってプロファイルされています。

• ディープフェイク AI は高度なアルゴリズムを使用して、説得力のある偽のコンテンツを作成し、技術的な驚異と潜在的な脅威の両方をもたらします。このことから、その仕組みが問われます。
• その合法性は曖昧で、特定の規制を設けている州はわずかです。
• 法的地位にもかかわらず、ディープフェイクは恐喝、政治的操作、詐欺などの重大なリスクをもたらし、包括的な法律と啓発の緊急の必要性を浮き彫りにしています。

ディープフェイク AI とは、説得力のある偽の画像、音声ファイル、動画を作成する人工知能の形態です。「ディープラーニング（深層学習）」と「フェイク（偽）」を融合させたもので、その技術自体と生成する詐欺的なコンテンツの両方を指します。ディープフェイクは、既存のコンテンツ内の人物を置き換えたり、まったく新しいシナリオを捏造し、実際には決して行われなかった行動や発言を表示します。ディープフェイクの主な危険性は、本物のように見える誤解を招く情報を拡散する能力にあります。では、ディープフェイク AI がどのように機能するかを見ていきましょう。

関連記事:今、皆が使っている AI 音声生成器は？

関連記事:製薬業界における生成 AI

ディープフェイク AI とは？

ディープフェイク AI は、画像、音声ファイル、動画の形で説得力のある偽の情報を捏造するために使用される人工知能の一種です。深層学習と偽造を組み合わせ、既存のソースコンテンツを変換したり、まったく新しいシナリオを生成します。「ディープフェイク」という用語は、技術とその結果生じる偽造コンテンツの両方を包含し、深層学習と偽造の概念を融合しています。

これらのディープフェイクは、多くの場合、既存のコンテンツを改変し、ある人物を別の人物に置き換えたり、まったく新しいコンテンツを作成して、実際には行っていない行動や発言を行っているように見せかけます。特に、ディープフェイクは、信頼できる情報源を装って虚偽の情報を拡散する可能性があるため、重大なリスクをもたらします。例えば、2022 年には、ウクライナのVolodymyr Zelenskyy大統領が自軍に降伏命令を出している様子を映したディープフェイク動画が出現しました。

選挙やプロパガンダにおけるディープフェイクの悪用に関する懸念が提起されており、それがもたらす深刻な脅威を浮き彫りにしています。しかし、ディープフェイクが、ビデオゲーム、エンターテインメント、コール転送や受付サービスなどのカスタマーサービスといったさまざまな用途で正当な目的にも使用されていることを認識することも重要です。

ディープフェイク AI の仕組み

ディープフェイク技術は、ジェネレーターとディスクリミネーターという 2 つの主要なアルゴリズムを使用して、偽造コンテンツを生成および改良します。最初に、ジェネレーターが望ましい結果に基づいてデータセットを構築し、最初の偽のデジタルコンテンツを生成します。次に、ディスクリミネーターが初期コンテンツの真正性を評価し、リアルさと人工性を区別します。反復プロセスを通じて、ジェネレーターは説得力のあるコンテンツを生成する能力を磨き、ディスクリミネーターはジェネレーターが修正すべき欠陥を検出する能力を向上させます。

ジェネレーターとディスクリミネーターのアルゴリズムの組み合わせは、敵対的生成ネットワーク（GAN）を形成します。GAN は深層学習技術を使用して本物の画像のパターンを特定し、そのパターンを利用して合成コンテンツを生成します。例えば、ディープフェイク写真を作成する場合、GAN は被写体の様々な角度からの画像を調べて、詳細と全体像を捉えます。同様に、ディープフェイク動画の開発では、GAN は動画コンテンツを複数の視点から分析し、行動の手がかり、動き、発話パターンも調べます。その後、このデータはディスクリミネーターによる複数回の評価を受け、最終結果のリアルさが洗練されます。

ディープフェイク動画は通常、次の 2 つの方法のいずれかで作成されます。1 つ目は、対象人物が登場するオリジナル動画を使用し、そのコンテンツを操作して、実際には決して行っていない行動や発言を表示する方法です。もう 1 つは、対象人物の顔を別の人物の動画映像に置き換える方法で、これは一般的に顔の交換と呼ばれています。

ディープフェイク作成に使用される様々な手法

ソース動画の使用：ニューラルネットワークによって駆動されるディープフェイク・オートエンコーダーは、ソース動画を精査して、顔の表情や身体言語などの対象の重要な特徴を把握します。そして、エンコーダー・デコーダーシステムを使用して、これらの特徴をオリジナル動画に統合します。
音声ディープフェイクの生成：音声ディープフェイクには、人物の声を再現する GAN が関与し、音声パターンに基づいてモデルを構築し、それを使用して声を操作し、任意の言葉を言わせます。この技術はビデオゲームの開発で頻繁に採用されています。
リップシンク：ディープフェイク作成で広く行われているもう 1 つの方法はリップシンクで、音声録音を対応する動画に合わせて、動画内の人物が録音された言葉を話しているかのような錯覚を作り出します。音声自体がディープフェイクである場合、欺瞞の層がさらに追加されます。このアプローチは、リカレントニューラルネットワークによって実現されます。

ディープフェイク開発に必要な技術

ディープフェイク技術の台頭は、さまざまな主要技術の進歩によって促進されています：

GAN ニューラルネットワークは、ジェネレーターとディスクリミネーターのアルゴリズムを使用し、ディープフェイク開発のバックボーンを構成します。

畳み込みニューラルネットワーク（CNN）は、顔認識や動作追跡などのタスクに不可欠な視覚データのパターンを分析します。

オートエンコーダーは、別のニューラルネットワーク技術であり、顔の表情や身体の動きなど、対象の関連する属性を特定し、それらをソース動画に転送します。

自然言語処理（NLP）アルゴリズムは、音声の属性を分析し、対応するテキストを生成することで、音声ディープフェイクを生成します。

ハイパフォーマンスコンピューティングは、ディープフェイクの作成に不可欠な実質的な計算能力を提供します。

米国国土安全保障省の「ディープフェイク ID の増大する脅威」報告書によると、Deep Art Effects、Deepswap、Deep Video Portraits、FaceApp、FaceMagic、MyHeritage、Wav2Lip、Wombo、Zao など、ディープフェイクを迅速に生成するためのツールがいくつかあります。

ディープフェイクの様々な用途

芸術：アーティストの既存作品をリミックスして新しい音楽を作成するために使用されます。

恐喝と風評被害：標的を違法行為や露骨な行為などの危険なシナリオに置き、ゆすりや名誉毀損を行うことを含みます。

通話応答サービス：コール転送や受付サービス向けにパーソナライズされた応答を提供します。

顧客電話サポート：口座照会やクレーム処理などの日常的なタスクに偽の音声を使用します。

エンターテインメント：映画やゲームで俳優の声を操作したり、風刺やパロディコンテンツを作成したりするために使用されます。

偽の証拠：法的手続きに影響を与えるために、欺瞞的な画像や音声を捏造します。

詐欺：機密情報やアクセスを得るために個人になりすまします。

偽情報と政治的操作：世論に影響を与えたり混乱を招いたりするために、偽のニュースを拡散します。

株式市場操作：株価に影響を与えるために偽の文書を作成します。

テキストメッセージ：米国国土安全保障省のディープフェイク ID 報告書によると、将来的にユーザーのテキストメッセージのスタイルを再現する可能性があります。

ディープフェイクは法律で許可されているのか？

ディープフェイクは概ね合法性の範囲内にありますが、潜在的な脅威のために法執行機関に課題をもたらしています。児童搾取、名誉毀損、ヘイトスピーチなどの既存の法律に違反すると違法となります。

ディープフェイクに関する特定の法律を制定しているのは、わずか 3 州です。テキサス州は選挙に影響を与えるディープフェイクを禁止し、バージニア州はディープフェイクポルノの拡散を禁止し、カリフォルニア州は選挙直前の政治的ディープフェイクと同意のないディープフェイクポルノを制限しています。

包括的な法律が欠如しているのは、ディープフェイク技術とその影響に対する認識が広く不足していることに起因しており、被害者はほとんど保護されていません。

ディープフェイクに関連するリスクは何か？

法的地位にもかかわらず、ディープフェイクは重大なリスクをもたらします：

標的を危険なシナリオに置くことで、恐喝や風評被害を可能にします。

国家主体が悪意のある目的で利用する政治的偽情報を促進します。

候補者の偽の動画を生成することで、選挙介入に加担します。

偽造コンテンツを通じて市場価格に影響を与える株式市場操作に使用されます。

個人の金融データや個人情報にアクセスするために、なりすましによる詐欺を助長します。