Meta、AI 生成の虚偽コンテンツでイスラエル企業を禁止

「Meta bans Israeli firm for AI-generated deceptive content」は、公開された証拠がインターネットインフラ、ガバナンス、運用依存関係、または市場可視性に結び付けているため、BTW Media によってプロファイルされています。

• Meta Platforms はイスラエルのテクノロジー企業に関連する偽アカウントネットワークを解体した。その数は Facebook 上で 500 以上、Instagram 上で 32 に上る。
• Meta の自動システムがネットワークの大部分を検出し無効化したにもかかわらず、ソーシャルメディアプラットフォーム上での不正コンテンツの拡散に関する懸念が残っている。Meta は同社をプラットフォームから追放したと述べた。
• 欧州連合と米国で大統領選挙が近づく中、各国政府とテクノロジー企業は選挙における人工知能の利用や、外国の主体が米国の政治的意思に影響を与え、不和をまこうとする試みを注意深く監視している。

Meta は、ユダヤ人学生などを装った一部の偽アカウントが、人工知能によって生成された可能性のある偽のコンテンツを Facebook と Instagram 上で使用し、米国とカナダのユーザーに対してコメントを行っていたことを明らかにした。Meta はこの一連の虚偽情報を、テルアビブに拠点を置く政治マーケティング企業 STOIC の仕業としている。

STOIC の代表者は、Meta の報告に関するコメントを求めるメッセージにすぐには応答しなかった。

Meta プラットフォーム上の偽コンテンツ

Meta Platformsはイスラエルのテクノロジー企業に関連する偽アカウントネットワークを解体した。その数は Facebook 上で 500 以上、Instagram 上で 32 に上る。

これらのアカウントは、ユダヤ人やアフリカ系アメリカ人の学生を含む米国とカナダの居住者を装い、イスラエルを称賛しキャンパスでの反ユダヤ主義を批判する AI 生成コメントを使用していた。

主に英語のこれらのコメントは、イスラエル人人質の解放、イスラエルの軍事行動への支持、過激なイスラム教やキャンパスにおける反ユダヤ主義への批判といった話題に焦点を当てていた。

Meta の自動システムがネットワークの大部分を検出し無効化したにもかかわらず、ソーシャルプラットフォーム上での不正コンテンツの拡散に対する懸念は依然として存在する。Meta はこの企業をプラットフォームから追放したと発表した。

あわせて読みたい：Intuit、AI 製品の需要で通期見通しを上方修正

あわせて読みたい：AI が「世界で最も孤独な植物」のパートナー探しをお手伝い

生成 AI 技術への懸念

Meta や他の大手テクノロジー企業は、特に選挙における新たな AI 技術の悪用の可能性と戦うのに苦慮している。

欧州連合と米国で大統領選挙が近づく中、各国政府とテクノロジー企業は選挙における人工知能の利用や、外国の主体が米国の政治的意思に影響を与え不和をまこうとする試みを注意深く監視している。ユーザーは、説得力のある流暢な文章、リアルな画像、動画を生成できる AI ツールを含む生成 AI を活用し、Meta のプラットフォーム上でコンテンツを共有している。Meta は、これが自社のこうしたネットワークを混乱させる能力を妨げてはいないと主張しているが、特に選挙が近づく中、影響工作における AI 技術の悪用に対する懸念は依然として残っており、これはこの種の欺瞞的コンテンツに対する Meta の防御力を試す重要なテストとなっている。