OpenAI、米国選挙を標的にしたイランの ChatGPT アカウントをブロック

OpenAI blocks Iranian ChatGPT accounts for U.S. election targeting は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に関連付けているため、BTW Media によってプロファイルされています。

• OpenAI は、イランのグループが米国大統領選挙およびその他の問題に影響を与えるコンテンツを生成するために自社のチャットボット ChatGPT を悪用したとして、そのアカウントを削除したと発表しました。
• 米国大統領選挙が近づく中、このような活動が世論に与える影響が懸念されています。

当社の見解
OpenAI は、AI の倫理的使用へのコミットメントを大胆に示し、ChatGPT プラットフォームを悪用して米国大統領選挙に干渉したイランのグループのアカウントを閉鎖しました。この措置は、政治的影響力を目的とした AI 技術の悪用に対する高まる懸念を反映しており、そのような脅威に対抗するために取られる積極的な対策を浮き彫りにしています。
–BTW 記者 Rebecca Xu

経緯

OpenAIは最近、イランのグループ「Storm-2035」が、米国大統領選挙に影響を与えることを目的としたコンテンツを作成するために、同社のチャットボットChatGPTを悪用したとして対策を講じました。このグループは、米国選挙、ガザ紛争、イスラエルのオリンピック参加など、さまざまなテーマに関するコンテンツを生成するために ChatGPT を使用し、その後ソーシャルメディアやウェブサイトに拡散しました。

コンテンツ生成の努力にもかかわらず、OpenAI は、この作戦が大きな公衆の関与を呼ばなかったと報告しました。ソーシャルメディア上の投稿の大半は、いいね、共有、コメントを得られず、ウェブ記事がソーシャルメディアプラットフォームで共有された兆候もほとんどありませんでした。

調査の結果、OpenAI は Storm-2035 に関連するアカウントのサービス利用を禁止しました。同社は、ポリシー違反の新たな試みを防ぐため、活動を注意深く監視しています。

以前の報告によると、Storm-2035 は、報道機関を装ったウェブサイトのネットワークを通じて米国の有権者グループと接触していました。この作戦は、米国大統領候補、LGBTQ の権利、イスラエル・ハマス紛争に関する分極化するメッセージに焦点を当てていました。

関連記事：米国はオープンな AI モデルを支持し、リスク監視を提案

関連記事：FTC のカーン委員長は競争強化のため AI モデルの開放を期待

なぜ重要か

OpenAI のこの措置は、AI 技術が政治的操作に悪用される可能性があるという広範な課題と、そのような活動を検出し防止するための継続的な警戒の必要性を浮き彫りにしています。

この措置はまた、欺瞞的な目的や政治干渉のための AI 技術の悪用に対する高まる懸念を浮き彫りにしています。このような活動に対して迅速な対策を講じることで、OpenAI は AI の倫理的使用の重要性と、デジタル領域における偽情報や操作と戦う必要性について明確なメッセージを発信しています。

米国選挙が近づく中、OpenAI のような企業の行動は、民主的プロセスの完全性を守り、有害なオンライン影響キャンペーンから国民を保護する上で重要な役割を果たしています。この事件は、AI を活用したツールの規制における絶え間ない課題と、テクノロジーが社会の利益のために責任を持って使用されることを確保するための継続的な努力の必要性を私たちに思い出させます。