英国监管机构调查马斯克 Grok AI 深度伪造和色情图片

UK regulator investigates Elon Musk’s Grok AI over deepfake and sexualised images is a Public briefing based on external evidence, participant context, and relationship signals.

由于担心埃隆·马斯克旗下的平台X及其AI聊天机器人Grok能够生成并传播性暗示和非法深度伪造图像，英国媒体监管机构Ofcom已对其展开正式调查。英国首相基尔·斯塔默谴责该内容“令人作呕”且非法，当局正考虑采取法律和监管行动，包括罚款或限制服务，如果X未能遵守安全法律。事件经过：Ofcom调查Grok滥用情况 英国通信管理局（Ofcom）已就社交媒体平台X涉嫌通过其AI聊天机器人Grok生成有害内容（特别是可能违反英国法律的性暗示和深度伪造图像）展开调查。调查重点是X是否充分评估并减轻了Grok生成和传播非法内容的风险，尤其是涉及未经同意的私密图像和儿童性虐待材料的内容。报告显示，用户通过数字方式修改他人照片，诱使Grok生成性暗示图像。面对公众和监管机构的强烈批评，X及AI开发者xAI限制了Grok在主平台上的图像生成和编辑功能，仅对付费用户开放，以遏制滥用。然而，批评人士认为这并未完全解决根本问题，因为独立入口（如独立的Grok应用）仍能够生成此类图像。英国政府已表明强硬立场。首相基尔·斯塔默称此事“绝对令人作呕且可耻”，并警告议员，如果X无法控制Grok的输出，政府将迅速介入，包括行使监管权力限制或控制该服务。科技大臣莉兹·肯德尔及其他官员也呼应了这一紧迫性，将AI的滥用与更广泛的网络安全和数字技术滥用问题联系起来。Ofcom的调查将评估X是否遵守英国《在线安全法案》，该法案要求平台保护用户免受非法内容侵害，包括涉及性剥削和虐待的材料。若发现严重违规，监管机构有权申请法院命令，切断X与英国支付系统或互联网的连接。英国这一事态发展正值全球加强审查之际。包括马来西亚和印度尼西亚在内的多个国家因担忧Grok的AI图像生成能力可能生成冒犯性、淫秽或未经同意的内容，已对其实施访问限制。同样，欧盟委员会也已表示将审查X是否符合地区在线安全法律。另请阅读：全球关注下，马斯克将开源X算法 另请阅读：马斯克旗下xAI融资200亿美元，Grok AI深度伪造争议愈演愈烈 为何重要 Ofcom对Grok的调查凸显了生成式人工智能、内容审核和法律责任交叉领域的重大紧张关系。随着AI系统能够合成逼真图像，其被滥用的可能性（包括生成有害或非法材料）增加了监管机构执行现行法律并为生成式AI技术制定新框架的压力。争议还凸显了当前平台治理模式的局限性，这些模式严重依赖用户报告和被动措施。对X回应的批评者认为，仅将图像生成功能限制对付费用户开放，实际上是将制造有害内容的能力货币化，而非消除它，并且订阅要求并不能阻止底层技术被滥用。此外，英国在高级政客支持下所采取的做法表明，其正趋向于不仅将分享非法图像、还将通过AI工具制造此类图像的行为定为犯罪，这一立场对言论自由、平台责任和监管范围具有影响。在当局努力监管AI而不扼杀有益用例的过程中，平衡安全、创新和公民自由将是一个核心挑战。对于X和马斯克通过xAI实现更广泛AI雄心而言，此次调查的结果可能影响用户信任、平台治理政策以及政府施加更严格义务（包括巨额罚款或服务限制）的意愿。全球监管机构和立法者或将密切关注英国的举措，因其可能为监管广泛使用的社交平台中集成的生成式AI系统树立先例。 另见: AfriNIC会员名册神秘消失.