• 英国媒体监管机构正推进对 Grok 涉嫌制作性露骨深度伪造图像的正式调查。
  • 加拿大隐私监管机构已扩大其调查范围，将马斯克的 AI 部门 xAI 纳入其中，原因是类似担忧。

事件经过：两国监管机构继续就深度伪造问题调查 X 及其 AI

英国媒体监管机构Ofcom周四证实，其对埃隆·马斯克的社交媒体平台 X 及其 AI 聊天机器人 Grok 的正式调查将继续进行，尽管该公司最近为遏制有问题的图像编辑功能而做出了改变。

Ofcom 表示，它欢迎 xAI 限制 Grok 将真人图像编辑成性暗示服装（如比基尼）的能力——这是旨在解决监管机构担忧的调整——但补充说，其调查“仍在进行中”，以全面了解 Grok 如何生成此类材料，以及 X 是否遵守了英国法律。

调查源于有报道称 Grok 被用于制作和分享未经同意的性化深度伪造图像，其中包括在侮辱性语境中的女性和儿童图像，这可能违反了英国《在线安全法》及相关保护措施。

与此同时，在加拿大，隐私专员办公室表示，它正在扩大对 X 的现有调查，将 Grok 背后的公司 xAI 纳入相关调查，原因是类似的对制作和传播性露骨深度伪造内容的担忧。

两国监管机构均强调，马斯克旗下公司的调整并不免除责任，仍需更多工作来评估其对隐私和安全法律的遵守情况。

相关阅读：英国监管机构称其对 X 的深度伪造调查将继续
相关阅读：分析：马斯克在 Grok 深度伪造问题上受挫，但监管之战远未结束

为何重要

对 Grok 的持续监管压力凸显了治理能够生成逼真但有害内容的 AI 系统这一日益严峻的全球挑战。深度伪造技术已存在多年，但被整合到像 X 这样广泛使用的平台中——且易于访问——引发了新的法律和社会风险。

在英国，如果违反《在线安全法》等法律，Ofcom 可处以高达 1800 万英镑或全球营收 10%的罚款，甚至寻求法院下令封锁。加拿大扩大调查表明，隐私机构愿意在个人信息未经同意被使用时，不仅关注数据收集，还审视 AI 工具的输出。

综合来看，这些行动可能为全球监管机构如何处理未经同意的图像操纵、AI 安全和平台责任树立先例，而此时行业和立法者都在竞相跟上快速的技术变革。