• OpenAI は、真正性を保証するために画像と音声に改ざん防止の透かしを追加する計画です。
  • OpenAI は、メディアの出所を追跡するために Google や Microsoft などのテクノロジー大手と協力しています。
  • インドの選挙中に流れた偽の動画は、世界中で問題となっている改ざんコンテンツの問題を浮き彫りにしました。

OpenAI は、Microsoft が支援するスタートアップのテキストから画像を生成する DALL-E 3 で作成された画像を検出できるツールを発表しました。このツールは内部テストでDALL-E 3 が生成した画像を約 98%の精度で正しく識別し、圧縮、切り抜き、彩度変更などの一般的な修正が加えられても、その影響は最小限に抑えられます。

コンテンツの真正性の向上

ChatGPT の開発元は、写真や音声などのコンテンツにデジタルマークを付ける改ざん防止ウォーターマークを導入する計画です。これは、削除が困難な強固な信号を提供することを目的としています。この取り組みは、デジタルメディアの真正性と追跡可能性を保証するという OpenAI の幅広い活動の一環です。

メディア追跡のための業界連携

OpenAI は、さまざまな種類のメディアの出所を追跡するための基準を確立しようとする業界グループの一員として、特に Google、Microsoft、Adobeといった主要テクノロジー企業と提携しています。この協力関係は、偽情報と戦い、デジタル環境における透明性を確保するための共同の取り組みを強調するものです。

関連記事:OpenAI が DALL-E3 で作成された AI 画像を検出

選挙中の偽情報の課題

最近のインド総選挙中、ボリウッドの俳優 2 人がナレンドラ・モディ首相を批判する偽の動画がオンラインで拡散されました。この事件は、特に選挙のような重要なイベントでの偽情報や改ざんコンテンツの蔓延を浮き彫りにしています。

世界的な懸念

AI 生成コンテンツやディープフェイクの急増は、インドだけでなく、米国、パキスタン、インドネシアなどの国々でも見られる、世界的に拡大する問題です。選挙中に操作されたメディアが使用されることで、偽情報が民主的プロセスや世論に与える影響についての懸念が高まっています。

関連記事:OpenAI、メディア連携で FT のコンテンツを AI 学習に活用

社会のレジリエンス促進

OpenAI は Microsoft と協力して、「社会的レジリエンス」のための 200 万ドルの基金を立ち上げ、AI 教育の取り組みを支援しています。この基金は、認識向上、一般教育、AI 生成コンテンツやディープフェイクがもたらす課題に対処する準備を強化し、よりレジリエントで情報に精通した社会の育成を目指しています。