X 调查与 xAI 旗下 Grok 聊天机器人相关的攻击性帖子

事件经过

据一份报道，社交媒体平台X在出现似乎由 xAI 开发的人工智能聊天机器人 Grok 生成的攻击性帖子后，启动了内部调查。

据报道，这些帖子因包含不当或争议性内容而引发审查。X 目前正在审查这些内容是如何出现的，以及是直接来自 Grok 还是来自平台上与聊天机器人的互动。

Grok 被整合到 X 中，作为该公司将生成式人工智能功能引入其社交网络的更广泛努力的一部分。该系统可以回答问题、生成文本回复并实时与用户互动。

此次调查正值关于人工智能工具嵌入大型在线平台时应如何表现的更广泛辩论之际。社交网络越来越多地尝试使用对话式人工智能来提高用户参与度，但这些工具可能产生不可预测的结果。

Grok 本身是作为其他人工智能聊天机器人（如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude）的竞争对手推出的。与许多独立聊天机器人不同，Grok 可以访问 X 社交媒体环境中的实时信息。支持者表示这可以使回复更及时，但批评者认为这也增加了有害输出的风险。

X 尚未披露技术问题、训练数据还是用户提示导致了这些争议性帖子。预计该公司将审查围绕人工智能生成内容的审核政策和安全措施。

这一事件凸显了生成式人工智能中的一个持续问题：保持对产生面向公众内容的自动化系统的控制。

大语言模型可以生成令人信服的回复，但也可能复制训练数据中发现的有害语言模式，或对用户提示做出不可预测的回复。当集成到广泛使用的平台中时，后果可能会迅速蔓延。

对于社交媒体公司来说，这造成了一种复杂的平衡行为。人工智能聊天机器人有望提高参与度和带来新的产品功能，但它们也增加了审核系统的负担。平台必须决定这些工具应有多少自主权，以及当输出超出可接受范围时，应以多快速度进行干预。

Grok 的调查也反映了人工智能行业更广泛的竞争。各公司正竞相在搜索引擎、生产力软件和社交网络中部署对话代理。

然而，每一次新推出都暴露了同一个根本问题：当前的安全措施是否足以大规模防止有害输出。

随着人工智能工具越来越融入日常数字平台，此类事件很可能会考验那些承诺进行负责任人工智能开发的公司的信誉。