• ディープフェイクと AI は異なる二つのものですが、いくつかの関連性があり、両方の言葉が混同されることがあります。ディープフェイクは、生成 AI の応用および実践の一つと見なすことができます。
  • ディープフェイクとは、「ディープラーニング」と「フェイク」を組み合わせたかばん語で、画像合成にディープラーニングを用いて偽の動画を作成する技術を指します。また、実在しない人間の被写体をコンピュータで生成した画像を指すこともあります。
  • ディープフェイクアプリケーションの技術的閾値が下がり、ディープフェイク製品が本物により近づく中、一部のテクノロジー企業は AI を使って AI に対抗するディープフェイク検出ツールの開発を始めています。

ディープフェイクとは、画像合成にディープラーニングを用いて偽の動画を作成する技術を指します。ディープフェイクの合法性は、その使用方法や管轄区域によって異なる場合があります。

ディープフェイクコンテンツとは？

ディープフェイクとは、「ディープラーニング」と「フェイク」を組み合わせたかばん語で、画像合成にディープラーニングを用いて偽の動画を作成する技術を指します。また、実在しない人間の被写体をコンピュータで生成した画像を指すこともあります。

偽コンテンツの作成自体は新しいものではありませんが、ディープフェイクは機械学習と AI のツールや技術を利用しており、顔認識アルゴリズムや、変分オートエンコーダ（VAE）や敵対的生成ネットワーク（GAN）などの人工ニューラルネットワークが含まれます。

参照：AI におけるディープフェイクとは？

したがって、ディープフェイクと AI は異なる二つのものですが、いくつかの関連性があり、両方の言葉が混同されることがあります。ディープフェイクは、生成 AI の応用および実践の一つと見なすことができます。

ディープフェイクの法的リスク内容

ディープフェイクの合法性は、その使用方法や管轄区域によって異なる場合があります。多くの地域では、同意なく名誉毀損、嫌がらせ、詐欺などの悪意ある目的でディープフェイクを作成・共有することは違法であり、民事または刑事罰の対象となる可能性があります。

ただし、パロディ、風刺、芸術的表現、またはその他の悪意のない目的でのディープフェイク技術の使用は、表現の自由に関する法律によって保護される場合があります。ディープフェイク技術を扱う際には、適用される法律と倫理ガイドラインを理解し遵守することが不可欠です。

技術が高度化するにつれ、既存の動画内の人物を別の人の顔や動物の顔に簡単に置き換えたり、口の動きを操作したりすることが可能になり、スマートフォンとモバイルアプリさえあればできます。こうした作り物の画像や動画は本物のように見えます。

ディープフェイクは、児童性的虐待コンテンツ、有名人のポルノ動画、リベンジポルノ、フェイクニュース、いたずら、嫌がらせ、金融詐欺の作成に利用される可能性があるとして広く注目を集めています。

ディープフェイクによる誤情報や憎悪表現の拡散は、人々が自身に影響を与える決定に参加し、集団的な議題や決定を定める能力を妨げることで、民主的制度の基本的な機能や規範を損なう可能性があります。

ディープフェイクは音声にも応用が拡大しています。現在、AI 技術により、5 秒間の声を録音するだけであなたの声を模倣し、異なる会話を作成することが可能です。ディープフェイクの画像と音声があれば、実際には存在しなかった動画をでっち上げることができます。

参照：動画：Taylor Swift のディープフェイクが AI 倫理の議論を引き起こす

ディープフェイクアプリケーションの技術的閾値が下がり、ディープフェイク製品が本物により近づく中、一部のテクノロジー企業は AI を使って AI に対抗するディープフェイク検出ツールの開発を始めています。

一部の国では、ディープフェイクが提起する倫理的・法的懸念に対処するための立法や規制のアプローチを検討しています。また、画像鑑識の分野も、操作された画像を検出する技術を開発しています。