• ディープフェイクは、敵対的生成ネットワーク（GAN）によって駆動され、画像や動画をソースコンテンツに融合させることで、非常にリアルでありながら誤解を招く可能性のあるオーディオビジュアルコンテンツを作成します。
  • ディープフェイク技術のポジティブな用途には、インタラクティブな仮想教師による教育の向上や、映画、ドキュメンタリー、テレビニュースにおける本格的なエンターテイメント体験の創造が含まれます。
  • ディープフェイクに伴うリスクには、誤情報の拡散、社会紛争の悪化、悪意ある行為者による世論操作や個人のなりすましを可能にすることで国家安全保障を脅かす可能性が含まれます。

現在、ディープフェイク技術は映画やテレビの制作などさまざまな場面で利用されています。しかし、偽情報の拡散や世論操作など、悪意ある目的で悪用される懸念も引き起こしています。

ディープフェイクの概要

ディープフェイクは、敵対的生成ネットワーク（GAN）と呼ばれる機械学習モデルを使用して、画像や動画をソースの画像や動画に融合させることを指します。大規模学習のためにニューラルネットワーク技術を活用することで、ディープフェイクは個人の声、表情、体の動きを組み合わせて偽のコンテンツを合成します。最も一般的なディープフェイクの形式は AI による顔の交換で、音声合成、顔合成、動画生成なども含まれます。この技術により、非常にリアルで見分けがつかないオーディオビジュアルコンテンツが作成され、肉眼で真偽を判別することが不可能になります。

あわせてお読みください：生成 AI と識別 AI の違いは何ですか？

ディープフェイクのポジティブな活用

教育においては、仮想教師がインタラクティビティとエンゲージメントを通じてデジタル学習を向上させ、合成された歴史上の人物の説明動画が学習者により没入感のある体験を生み出します。

エンターテイメントでは、ディープフェイク技術が映画やドキュメンタリーなどの芸術作品において時間と空間の限界を押し広げ、コンテンツをより本格的に提示します。テレビニュースの仮想キャスターや魅力的なバーチャルアイドルを作成することもできます。

さらに、ディープフェイクは芸術、ソーシャルインタラクション、バーチャルリアリティ、ヘルスケアなどの分野でも活用されています。

あわせてお読みください：AI チャットボットのコストはいくらですか？

ディープフェイクのリスク

悪意ある行為者は、ディープフェイク技術を悪用して偽の動画を拡散し、社会紛争を悪化させ、暴力やテロを扇動したり、競合する情報機関に干渉したりすることで、国家および公安を脅かす可能性があります。

動画顔交換技術の普及により、一般個人でも加工動画を作成できるようになり、悪意を持つ者が簡単になりすましや ID 窃盗を行うことを可能にしています。これにより、リベンジポルノ、営業誹謗中傷、恐喝、サイバー攻撃、犯罪行為などが引き起こされ、個人や企業に被害をもたらす可能性があります。

専門家は、ディープフェイクが政府に対する国民の不信感を強めると考えています。ディープフェイクの危険性への認識が高まるにつれ、国民は本物の動画に対しても懐疑的になり、真偽の情報を混同し、公式な説明に対しても疑いの目を向けるようになることで、社会不安や信頼の危機が生じる可能性があります。

現在、AI が生成する偽のオーディオビジュアルコンテンツは説得力のある方法で人を欺くことができ、欺瞞の成功事例が増加しています。これに対処するため、各国は法的および技術的な対策を講じています。しかし、AI 技術の進歩に伴い、ディープフェイクと対抗策のいたちごっこは続き、継続的な注意と対応が必要です。