• Meta Platforms 瓦解了一个与一家以色列技术公司相关的虚假账户网络，其中 Facebook 账户超过 500 个，Instagram 账户 32 个。
  • 尽管 Meta 的自动化系统检测并禁用了该网络的很大一部分，但对社交平台上不实内容传播的担忧仍然存在。Meta 表示已禁止该公司使用其平台。
  • 随着欧盟和美国总统选举的临近，各国政府和科技公司正密切关注人工智能在选举中的使用，以及外国行为体试图影响美国政治舆论和制造不和的企图。

Meta 披露，一些冒充犹太学生和其他学生的虚假账户在 Facebook 和 Instagram 上使用了可能是由人工智能生成的虚假内容，对美国及加拿大用户发表评论。Meta 将这一系列欺骗性信息归因于总部位于特拉维夫的政治营销公司 STOIC。

STOIC 的代表没有立即回应就 Meta 报告寻求置评的消息。

欺骗性内容在 Meta平台上

Meta Platforms 瓦解了一个与一家以色列技术公司相关的虚假账户网络，其中 Facebook 账户超过 500 个，Instagram 账户 32 个。

这些账户冒充美国和加拿大当地人，包括犹太学生和非裔美国人，使用人工智能生成的评论来赞扬以色列并批评校园反犹主义。

这些评论主要使用英语，关注的话题包括释放以色列人质、支持以色列的军事行动，以及批评激进伊斯兰主义和校园反犹主义。

尽管 Meta 的自动化系统检测并禁用了该网络的很大一部分，但对社交平台上不实内容传播的担忧仍然存在。Meta 表示已禁止该公司使用其平台。

另请阅读：Intuit 因 AI 驱动产品需求上调年度预估

另请阅读：人工智能帮助‘世界上最孤独的植物’寻找伴侣

对生成式AI技术的担忧

Meta 和其他科技巨头一直在努力应对新人工智能技术可能被滥用的问题，尤其是在选举方面。

随着欧盟和美国总统选举的临近，各国政府和科技公司正密切关注人工智能在选举中的使用，以及外国行为体试图影响美国政治舆论和制造不和的企图。用户正利用生成式人工智能（包括能够生成令人信服的流畅文本、逼真图像和视频的 AI 工具）在 Meta 平台上分享内容。尽管 Meta 声称这并未妨碍其瓦解此类网络的能力，但对人工智能技术被滥用于影响力操作的担忧依然存在，尤其是在即将到来的选举中，这对 Meta 防御此类欺骗性内容构成关键考验。