- 英国政府敦促 Elon Musk 的 X 平台遏制来自 Grok 的有害 AI 生成图像。
- 监管机构加大压力，法国、印度和欧盟谴责这些输出内容为非法。
发生了什么：政府要求立即采取行动
英国政府公开敦促Elon Musk的社交网络 X 立即采取行动，制止其 AI 工具 Grok 生成包括女性和未成年人在内的个人的性化、未经同意的图像。英国技术大臣 Liz Kendall 称亲密深度伪造图像的泛滥“绝对令人震惊”，并呼吁该平台紧急解决这一问题。
路透社的报道显示，用户能够提示 Grok 生成穿着暴露服装的女性和儿童图像，引起欧洲当局的警觉。在英国，未经同意创建或分享此类图像是非法的，平台必须防止用户接触到这些内容，并在知悉后予以删除。
X 的官方安全账户表示，该平台会删除非法内容并永久封禁相关账户，任何提示 Grok 生成非法材料的人将面临与直接上传相同后果。据报道，Elon Musk 在社交媒体上用大笑表情符号回应了争议，这一回应进一步引发了对其公司安全严肃性的批评。
英国监管机构 Ofcom 已联系 X 及其 AI 部门 xAI，以确保其遵守《Online Safety Act》规定的义务。法国当局已将问题报告给检察官，印度政府要求做出解释，称该内容淫秽且平台安全措施失效。
Also Read:英国投资 2.1 亿英镑加强公共部门网络防御
Also Read:G.Network 被卖给困境投资者，英国光纤行业面临日益增长的压力
为何重要
这一事件凸显了生成式 AI 技术与旨在保护用户免受伤害的现有法律之间日益加剧的紧张关系。Grok 能够生成剥削性的深度伪造图像，突显了内容审核的漏洞，而此时其他公司（如 OpenAI 和 Google）的类似工具则执行了更严格的保护措施。
随着多个司法管辖区谴责这些输出为非法或有害，这一事件可能会影响未来的 AI 治理和监管框架。它引发了关于平台责任、诸如英国《Online Safety Act》等现行法律是否充分，以及在 AI 驱动图像生成日益普及的情况下，科技公司如何在创新与用户安全之间取得平衡的问题。