- OpenAI 表示已移除一个伊朗组织的账户，该组织利用其 ChatGPT 聊天机器人生成旨在影响美国总统选举及其他议题的内容。
- 随着美国总统选举临近，此类活动对公众舆论的影响令人担忧。
我们的看法
OpenAI 大胆宣示其对道德使用 AI 的承诺，关闭了一个伊朗组织的账户，该组织利用 ChatGPT 平台干预美国总统选举。此举反映出人们对 AI 技术被滥用于政治影响的日益担忧，并凸显了可采取的积极措施以应对此类威胁。
—— Rebecca Xu，BTW 记者
发生了什么
OpenAI 最近对一个名为 Storm-2035 的伊朗组织采取了行动，因其滥用其 ChatGPT 聊天机器人来生成旨在影响美国总统选举的内容。该组织利用 ChatGPT 生成了关于美国大选、加沙冲突以及以色列参与奥运会等话题的内容，然后通过社交媒体和网站传播。
尽管努力生成内容，OpenAI 报告称该行动并未引起显著的受众参与。大多数社交媒体帖子没有获得点赞、分享或评论，也很少有迹象表明网络文章在社交媒体平台上被分享。
在调查之后，OpenAI 已禁止与 Storm-2035 相关的账户使用其服务。该公司正在密切监控活动，以防止任何进一步违反其政策的企图。
早前报道指出，Storm-2035 曾通过一个伪装成新闻媒体的网站网络与美国选民群体接触。该行动专注于围绕美国总统候选人、LGBTQ 权利以及以色列-哈马斯冲突等议题制造两极分化的信息。
另请阅读：美国支持开放式 AI 模型并提议风险监督
另请阅读：FTC 主席 Khan 希望开放 AI 模型以促进竞争
为何重要
OpenAI 的这一行动凸显了 AI 技术可能被用于政治操纵的广泛挑战，以及持续保持警惕以发现并阻止此类活动的必要性。
此举还突显了围绕 AI 技术被滥用于欺骗目的和政治干预的日益增长的担忧。通过对此类活动迅速采取行动，OpenAI 传达了一个明确的信息，即道德使用 AI 的重要性以及打击数字领域中的错误信息和操纵行为的必要性。
随着美国大选临近，像 OpenAI 这样的公司的行动在维护民主进程的完整性和保护公众免受有害在线影响方面发挥着至关重要的作用。这一事件提醒我们，在监管 AI 驱动的工具方面持续面临挑战，需要不断努力以确保技术被负责任地使用，为社会造福。