• OpenAI は、テキスト画像生成器 DALL-E 3 で作成された画像を識別できるツールを発表した。内部テストでは、圧縮やトリミングなどの一般的な変更後でも 98%の精度を達成している。
  • 画像検出に加え、OpenAI は改ざん耐性のあるデジタル透かしを導入し、デジタルコンテンツに信号を埋め込み、操作や削除を困難にする予定だ。
  • OpenAI は Microsoft、Google、Adobe と協力し、AI 生成メディアの起源を追跡する標準規格を策定することで、AI が世界の選挙に与える影響に関する懸念に対応する。

OpenAIは、AI 生成画像を検出するツールを開発しており、今年の世界の選挙に AI 生成コンテンツが与える影響に関する懸念に対応している。

新しいツールは DALL-E3 が生成した画像を識別可能

OpenAI は、テキスト画像生成器DALL-E 3で生成された画像を識別できるツールの提供を開始する予定だ。Microsoftの支援を受けるこのスタートアップは、火曜日にこの開発を発表した。内部テストでは、このツールは圧縮、トリミング、彩度調整などの一般的な変更を加えた後でも、約 98%の精度で DALL-E 3 が生成した画像を正確に認識する。

関連記事：Opera の AI アシスタントが Android でウェブページを要約可能に

画像検出に加え、OpenAI は改ざん耐性のあるデジタル透かしの導入を計画している。この機能は写真や音声などのデジタルコンテンツに信号を埋め込み、削除を困難にする。これらの取り組みの一環として、OpenAI は Google、Microsoft、Adobeを含む業界団体と連携し、さまざまなメディアの起源を追跡する標準規格の策定を目指している。

関連記事：フェイフェイ・リ氏とは？AI の先駆者が「空間知能」のスタートアップを立ち上げた

AI 生成コンテンツの世界の選挙への潜在的影響

今年の世界の選挙に対する AI 生成コンテンツの影響に関する懸念が、最近の事件によって高まっている。4 月、インドで進行中の総選挙中に、ボリウッド俳優 2 人がナレンドラ・モディ首相を批判する偽の動画がネット上で拡散した。AI 生成コンテンツとディープフェイクの拡散は、インドだけでなく、米国、パキスタン、インドネシアなど世界中の選挙でもますます蔓延している。

これらの課題に対処するため、OpenAI は Microsoft と協力し、AI 教育の取り組みを支援する 200 万ドルの「社会的レジリエンス」基金を立ち上げることを発表した。