• OpenAI 挫败了五项利用其 AI 模型进行线上欺骗活动的隐蔽影响行动。
  • 这些活动涉及来自俄罗斯、中国、伊朗和以色列的行为者，旨在操纵公众对全球问题的舆论。
  • 由首席执行官 Sam Altman 领导的新成立的安全与保障委员会将监督 OpenAI 未来的 AI 模型训练。

在Sam Altman的领导下，OpenAI 宣布成功挫败了五项利用其 AI 模型进行线上欺骗活动的隐蔽影响行动。这些行动由来自俄罗斯、中国、伊朗和以色列的行为者实施，旨在操纵公众对关键全球问题的舆论，突显了人们对生成式人工智能技术滥用的持续担忧。

挫败隐蔽行动

这些内容包括简短的评论、较长的文章，以及为社交媒体帐户伪造的姓名和简历。所针对的问题涵盖重大全球事件，如俄罗斯入侵乌克兰、加沙冲突、印度选举以及欧洲和美国的政治事务。

另请阅读：OpenAI 与 Vox 和 The Atlantic 合作，媒体继续向 AI 模型出售内容

另请阅读：OpenAI 成立团队来控制‘超级智能’AI

目的和影响

这些活动的主要目的是操纵公众舆论并影响政治结果。OpenAI 表示，这些欺骗性行动并未通过其服务获得增加的受众参与度或覆盖面。此外，这些行动并不仅仅依赖 AI 生成的内容，还包括手动编写的文本或从各种互联网来源复制的模因。

OpenAI 的回应和相关动态

为应对这些挑战，OpenAI 成立了由首席执行官 Sam Altman 及其他董事会成员领导的安全与保障委员会，以监督未来 AI 模型的训练。这一举措突显了该公司致力于解决与生成式人工智能技术滥用相关的安全问题的承诺。另外，Meta Platforms在其季度安全报告中指出，在 Facebook 和 Instagram 上发现了可能由 AI 生成并被用于欺骗的内容，包括在全球新闻机构和美国立法者的帖文下支持以色列处理加沙冲突的评论。