OpenAI、AI モデルを悪用した 5 つの秘密影響工作を阻止

OpenAI が 5 つの隠蔽影響工作を阻止した件は、公開証拠がインターネットインフラ、ガバナンス、運用依存関係、または市場での可視性に関連しているため、BTW Media によってプロファイルされています。

• OpenAI は、自社の AI モデルを悪用したオンライン上の欺瞞活動である 5 つの秘密影響工作を阻止した。
• これらのキャンペーンは、ロシア、中国、イラン、イスラエルの関与者によるもので、世界の問題に関する世論操作を目的としていた。
• Sam Altman CEO が率いる新しい安全・セキュリティ委員会が、OpenAI における将来の AI モデルの訓練を監督する。

Sam Altman 氏率いる OpenAI は、同社の AI モデルをオンライン上の欺瞞活動に悪用した 5 つの秘密影響工作を阻止したと発表した。ロシア、中国、イラン、イスラエルの関与者によるこれらの作戦は、重要な地球規模の問題について世論を操作することを目的としており、生成 AI 技術の悪用に対する継続的な懸念を浮き彫りにしている。

秘密工作の摘発

そのコンテンツには、短いコメントや長文記事のほか、ソーシャルメディアアカウント用に捏造された名前や経歴が含まれていた。標的とされた問題は、ロシアによるウクライナ侵攻、ガザ紛争、インドの選挙、欧米の政治問題など、世界的に重要な出来事に及んでいた。

関連記事:OpenAI、Vox および The Atlantic と提携、メディアは AI モデルへのコンテンツ販売を継続

関連記事:OpenAI、「超知能」AI を制御するチームを設立

目的と影響

これらのキャンペーンの主な目的は、世論を操作し、政治的結果に影響を与えることだった。OpenAI は、こうした欺瞞的な作戦が、同社のサービスを通じてオーディエンスのエンゲージメントやリーチを拡大することはなかったと述べている。さらに、これらの作戦は AI で生成された素材だけに依存しておらず、手作業で書かれたテキストや、インターネット上のさまざまなソースからコピーされたミームも含まれていた。

OpenAI の対応と関連動向

これらの課題に対応して、OpenAI は、Sam Altman CEO と他の取締役会メンバーが率いる安全・セキュリティ委員会を設置し、将来の AI モデルの訓練を監督することにした。この取り組みは、生成 AI 技術の悪用に関する安全上の懸念に対処するという同社のコミットメントを強調するものである。一方、Meta Platformsは四半期セキュリティ報告書の中で、Facebook と Instagram 上で欺瞞的に使用された AI 生成の可能性が高いコンテンツを特定した。その中には、世界的な報道機関や米国議員の投稿の下で、イスラエルによるガザ紛争の対応を支持するコメントが含まれていた。