• 欧盟正在调查 Grok 与 X 平台的整合是否导致有害和非法内容（包括色情深伪）传播。
  • 此举反映了根据《数字服务法案》对 AI 行为而不只是数据的日益严格审查，从而对平台问责提出了更广泛的问题。

事件经过：欧盟针对 Grok 与 X 功能采取正式行动

欧盟委员会已对社交媒体平台 X 及其集成的人工智能聊天机器人 Grok 展开正式调查，重点调查该组合是否未能保护欧盟用户免受有害和非法内容的侵害，包括由 AI 工具生成的色情图像。

调查将评估X 和 Grok 在平台上部署 AI 功能时是否遵守了欧盟的《数字服务法案》（DSA），以及是否充分识别并减轻了与传播非法内容相关的风险。

涉嫌违规源于有报道称用户能够提示 Grok 生成针对成人和未成年人的色情深伪图像，这一做法引发了监管反弹。

欧盟的调查扩展了此前对 X 的推荐系统和内容审核合规性的审查，表明监管审查正扩大范围，覆盖主要平台上受 AI 驱动的行为。

另请阅读：英国监管机构表示其对 X 平台深伪内容的调查将继续
另请阅读：分析：马斯克在 Grok 深伪问题上受挫，但监管之争远未结束

为何重要

此次调查标志着欧洲当局对 AI 平台合规性监管方式的明显转变——不再仅关注数据隐私，而是聚焦于生成式 AI 在现实世界中的行为及其可能引发的危害。以往，监管行动集中于数据收集或留存；如今，平台需为其系统如何生成、推荐和分发用户可访问内容承担责任。

根据《数字服务法案》，委员会拥有广泛的调查权力，包括要求提供算法和审核系统的信息，并且如果发现违规行为可处以高额罚款。

然而，此举也引发了关于平台治理和正当程序的辩论。批评者可能认为，在不同文化和法律体系之间执行内容规范本身就很复杂，而合规成本可能不利于创新。其他人则警告说，对深伪和有害内容过度依赖技术修复——而没有明确的责任划分——有可能将责任从平台运营商身上转移。

此外，尽管监管机构寻求保护弱势用户，但在全球范围内使用自动化工具为数十亿用户服务时，如何在言论自由与 AI 输出的自动监管之间取得平衡仍然存在疑问。

随着调查的推进，不仅监管机构，AI 开发者、民间社会组织以及评估未来风险和合规框架的云平台运营商都将密切关注。