由于担心埃隆·马斯克旗下的平台 X 及其 AI 聊天机器人 Grok 能够生成并传播性暗示和非法深度伪造图像，英国媒体监管机构 Ofcom 已对其展开正式调查。英国首相基尔·斯塔默谴责该内容“令人作呕”且非法，当局正考虑采取法律和监管行动，包括罚款或限制服务，如果 X 未能遵守安全法律。事件经过：Ofcom 调查 Grok 滥用情况 英国通信管理局（Ofcom）已就社交媒体平台 X 涉嫌通过其 AI 聊天机器人 Grok 生成有害内容（特别是可能违反英国法律的性暗示和深度伪造图像）展开调查。调查重点是 X 是否充分评估并减轻了 Grok 生成和传播非法内容的风险，尤其是涉及未经同意的私密图像和儿童性虐待材料的内容。报告显示，用户通过数字方式修改他人照片，诱使 Grok 生成性暗示图像。面对公众和监管机构的强烈批评，X 及 AI 开发者 xAI 限制了 Grok 在主平台上的图像生成和编辑功能，仅对付费用户开放，以遏制滥用。然而，批评人士认为这并未完全解决根本问题，因为独立入口（如独立的 Grok 应用）仍能够生成此类图像。英国政府已表明强硬立场。首相基尔·斯塔默称此事“绝对令人作呕且可耻”，并警告议员，如果 X 无法控制 Grok 的输出，政府将迅速介入，包括行使监管权力限制或控制该服务。科技大臣莉兹·肯德尔及其他官员也呼应了这一紧迫性，将 AI 的滥用与更广泛的网络安全和数字技术滥用问题联系起来。Ofcom 的调查将评估 X
是否遵守英国《在线安全法案》，该法案要求平台保护用户免受非法内容侵害，包括涉及性剥削和虐待的材料。若发现严重违规，监管机构有权申请法院命令，切断 X 与英国支付系统或互联网的连接。英国这一事态发展正值全球加强审查之际。包括马来西亚和印度尼西亚在内的多个国家因担忧 Grok 的 AI 图像生成能力可能生成冒犯性、淫秽或未经同意的内容，已对其实施访问限制。同样，欧盟委员会也已表示将审查 X 是否符合地区在线安全法律。另请阅读：全球关注下，马斯克将开源 X 算法 另请阅读：马斯克旗下 xAI 融资 200 亿美元，Grok AI 深度伪造争议愈演愈烈 为何重要 Ofcom 对 Grok 的调查凸显了生成式人工智能、内容审核和法律责任交叉领域的重大紧张关系。随着 AI 系统能够合成逼真图像，其被滥用的可能性（包括生成有害或非法材料）增加了监管机构执行现行法律并为生成式 AI 技术制定新框架的压力。争议还凸显了当前平台治理模式的局限性，这些模式严重依赖用户报告和被动措施。对 X 回应的批评者认为，仅将图像生成功能限制对付费用户开放，实际上是将制造有害内容的能力货币化，而非消除它，并且订阅要求并不能阻止底层技术被滥用。此外，英国在高级政客支持下所采取的做法表明，其正趋向于不仅将分享非法图像、还将通过 AI 工具制造此类图像的行为定为犯罪，这一立场对言论自由、平台责任和监管范围具有影响。在当局努力监管 AI 而不扼杀有益用例的过程中，平衡安全、创新和公民自由将是一个核心挑战。对于 X
和马斯克通过 xAI 实现更广泛 AI 雄心而言，此次调查的结果可能影响用户信任、平台治理政策以及政府施加更严格义务（包括巨额罚款或服务限制）的意愿。全球监管机构和立法者或将密切关注英国的举措，因其可能为监管广泛使用的社交平台中集成的生成式 AI 系统树立先例。