• Meta 监督委员会在审查了 Meta 平台上涉及知名女性的 AI 生成色情内容后，发布了一项裁决。
  • Meta 承诺将审查委员会的建议并实施必要变更，这表明其愿意解决因平台上 AI 生成色情内容而引发的担忧。

我们的看法
Meta 监督委员会已向公司发出指令，强调需要针对 AI 生成色情内容的管理制定更清晰、更全面的指导方针。这一立场反映了科技公司在保护用户免受有害内容侵害方面的责任所引发的更广泛社会讨论。
-Lia XU, BTW 记者

发生了什么

由 Meta 资助的独立机构Meta 监督委员会在审查了 Meta 旗下平台 Facebook 和 Instagram 上两起涉及知名女性的 AI 生成色情内容事件后，呼吁进行改革以阻止此类内容的传播。

他们建议 Meta 更新其规则，纳入包括生成式 AI 在内的更广泛的编辑技术，以有效应对非自愿描述问题，并保护个人免受深度伪造技术的负面影响。

Meta 未能在 48 小时内及时审查涉及一名印度女性的AI 生成图像的用户举报。因此，该工单被自动关闭，未采取任何行动。但在美国名人的案例中，Meta 的系统自动删除了图像。

“对此类内容的限制是合理的，”委员会表示，“鉴于伤害的严重性，删除内容是保护受影响人士的唯一有效方式”。

另请阅读：尼日利亚对 Meta 处以 2.2 亿美元罚款，因其违反数据和隐私规定

另请阅读：Meta 推出其 Llama 3 AI 模型的增强版本

为何重要

针对 AI 生成的真人露骨描述制定明确规则，有助于 Meta 遵守与在线内容相关的法律法规，并保护公司免受潜在法律问题的影响。“许多深度伪造私密图像的受害者并非公众人物，他们被迫要么接受非自愿描述图像的传播，要么搜索并举报每一个实例，”委员会表示。

Meta 需要制定关于 AI 生成色情内容的指导方针，并通过维护一个安全、尊重所有用户的在线环境，确保其平台（如 Facebook 和 Instagram）的完整性。他们表示将审查委员会的建议，并就所采纳的任何变更提供更新。

监督委员会的介入使得 Meta 有责任一致且透明地执行其内容政策，并确保该公司履行其审查和移除平台上不当内容的责任。