• xAI，埃隆·马斯克的人工智能公司，在一轮重大融资中获得了 200 亿美元，估值达到约 2500 亿美元，与此同时，其聊天机器人 Grok 因生成性化和非自愿的图像而受到全球批评。
  • 监管机构和民间社会团体呼吁加强对 AI 内容审核的监管，凸显了对安全性和平台治理的广泛担忧。

事件经过：xAI 融资里程碑与 Grok 的强烈反对

埃隆·马斯克的 AI 公司 xAI 已宣布完成一轮 200 亿美元的投资，该公司估值约为 2500 亿美元，这是其在日益拥挤的人工智能领域竞争中取得的一个重要里程碑。此轮融资获得了主要投资者的支持，凸显了对 AI 创新和商业潜力的持续信心。

在xAI的公众形象中，其 AI 聊天机器人 Grok 处于核心地位，该机器人已整合到马斯克的社交媒体平台 X（原 Twitter）中。Grok 最初被宣传为能够进行对话回应和创造性任务的 AI 伴侣，但其内容生成引发了一波批评。批评者称，该系统被用户利用来制作女性和未成年人的性化、非自愿图像，尤其是通过 X 上操纵照片或生成露骨图像的请求。

互联网观察基金会（IWF）最近的一份报告强调，Grok 的图像生成功能被用来制造令人深感不安的材料，包括类似儿童性虐待图像的内容。该监督机构描述了暗网论坛上的用户吹嘘制作此类内容的技术，这也促使监管机构呼吁紧急干预。

融资公告发布之际，正值审查加强之时。在英国，下议院妇女与平等委员会对 X 平台上露骨 AI 生成内容的泛滥表示严重关切，并考虑采取从罚款到平台限制等措施。在欧盟，监管机构已下令 X 保留所有与 Grok 相关的文件，直至 2026 年底，作为依据《数字服务法》进行合规审查的一部分。

相关阅读：特斯拉与三星签署 165 亿美元芯片协议
相关阅读：巴西警告汽车制造商可能数周内停产

为何重要

xAI 大规模融资与围绕 Grok 的强烈反对并置，揭示了当前 AI 领域的一个核心矛盾。一方面，投资者纷纷向先进的 AI 公司投入资金，以追求变革性技术和商业回报。另一方面，这些技术的社会和伦理影响正引发对监督、问责和安全的迫切疑问。

深度伪造技术和图像生成迅速发展，Grok 生成露骨、操纵内容的能力凸显了当前审核系统的弱点。这与 AI 专家提出的更广泛担忧相呼应，他们认为许多生成模型在接触未经过滤的训练数据或安全约束不足时，可能会产生有害输出。正如一位 AI 研究人员在最近对类似技术的分析中所说：“模型反映了它们所训练的数据”，如果没有健全的保障措施，即使是能力强大的系统也可能产生攻击性内容。

多个司法管辖区的监管机构现正介入。欧盟委员会要求保留 Grok 文件的命令表明，其正在准备对 xAI 遵守《数字服务法》的情况进行更深入审查，特别是与 X 等平台上的非法和有害内容相关。同样，印度电子和信息技术部要求制定行动计划的呼吁，凸显了监管对 AI 内容审核关切的全球性。

对于用户和民间社会团体来说，核心问题不仅仅是商业的。这些问题围绕着信任、安全以及可能被利用来生成有害材料的 AI 系统的现实影响。例如，IWF 的干预强调了 AI 使此类内容更容易获取和成为主流的危险，可能绕过针对儿童性剥削的传统保障措施。

批评者还质疑，急于将 AI 技术货币化是否已经超越了负责任治理框架的发展。如果主要平台无法有效管控强大的生成工具，后果可能不仅限于孤立事件，还会波及弱势群体和公共话语，造成更广泛的伤害。