Taylor Swift AI images are ‘shocking and scary’, says Satya Nadella

• 微软首席执行官萨提亚·纳德拉强调，在流行歌手泰勒·斯威夫特的假照片出现在网上后，必须迅速采取行动。
• 鉴于AI生成器极易被操纵，该报告凸显了执行此类限制的内在挑战。
• 人们担忧AI工具的泛滥，这些工具有助于制作假照片，并凸显了需要全面解决方案来应对数字领域的新挑战。

关于AI与“真实侵权”的争论已经波及到著名名人——泰勒·斯威夫特的领域，她最近成为网上分享的深度伪造图像的对象。此事让人们深刻认识到围绕生成式AI最常讨论的恐惧之一——参与其中的创作者和公司是否在充分防范其滥用？ 另见: FCC 以许可限制支持光纤建设者.

坦诚的回应

微软首席执行官萨提亚·纳德拉回应了有关泰勒·斯威夫特露骨AI图像出现的担忧。在接受NBC晚间新闻采访时，纳德拉称未经同意的模拟裸体激增“令人震惊且恐惧”，并强调迅速采取行动的紧迫性。 另见: Ofcom 揭露英国铁路移动覆盖差距.

在定于下周二播出的采访中，当采访者莱斯特·霍尔特指出互联网上充斥着泰勒·斯威夫特的虚假色情描述时，纳德拉承认了情况的严重性。纳德拉的回答涉及科技政策问题的复杂性，强调需要强有力的防护措施来减少此类事件。 另见: 罗伯特·纽沃斯.

“我想说两件事：首先，我再次强调我认为我们的责任，那就是我们需在技术周围设置所有必要的护栏，以便产生更安全的内容。在这方面有很多工作要做，也正在做很多。但这也关乎全球、社会——我要说，在某些规范上达成共识。我们能够——特别是当法律、执法机构和科技平台能够合作时——我认为我们可以管控的比我们想象的要多，我们给自己太多赞誉了。” 另见: 欧盟重写人工智能基础设施主权规则.

萨提亚·纳德拉，微软首席执行官

纳德拉强调，微软致力于采取必要措施，确保技术领域更安全的内容创作。他强调了建立全球社会规范、与执法部门合作以及利用技术平台有效监管在线内容的重要性。 另见: 欧盟限制美国卫星运营商接入频谱.

虽然有迹象表明微软参与了这些虚假斯威夫特图像的传播，但404 Media的一份报告指出，这些图像来自一个基于电报的社区，该社区参与制作非自愿色情内容。据说该社区建议使用微软的Designer图像生成器，尽管该生成器被认为禁止生成公众人物的图像。然而，鉴于AI生成器容易被操纵，该报告凸显了执行此类限制的内在挑战。 另见: FCC 要求美国海底电缆登陆须获许可.

虽然这些发展凸显了微软可能需要解决的技术缺陷，但它们也反映了对帮助制作虚假裸照的AI工具泛滥的更广泛担忧。这一趋势引发了激烈辩论，并凸显了需要全面解决方案来应对数字领域的新挑战。 另见: 美国封堵海外AI芯片采购漏洞.

另请阅读：Nightshade AI工具‘毒化’数字艺术品，帮助艺术家打击知识产权侵权

小社区，大力量

有人说微软可能与斯威夫特的虚假图像有关。404 Media的报告指出，这些图像来自一个基于电报的非自愿色情制作社区，该社区推荐使用微软Designer图像生成器。理论上，Designer拒绝生成名人图像，但AI生成器很容易被愚弄，404发现通过微调提示可以违反其规则。尽管这并不能证明Designer被用于制作斯威夫特图像，但这是微软可以修复的技术缺陷。但AI工具极大地简化了制作真人假裸照的过程，给那些远不如斯威夫特有权力和名气的女性带来了混乱。控制它们的生产并不像让大公司加强护栏那么简单。即使像微软这样的大型“科技”平台被封锁，人们也可以重新训练像Stable Diffusion这样的开放工具来制作NSFW图片，尽管有人试图使这变得更加困难。可能更少的用户能接触到这些生成器，但斯威夫特事件表明一个小社区的作品可以传播得多广。 另见: Dish 违约后 FCC 重启 AWS-3 拍卖.

纳德拉模糊地提出了更大的社会和政治变革建议，然而尽管有一些初步的AI监管举措，微软并没有明确的解决方案。立法者和执法部门正在努力应对非自愿性图像的问题，而AI伪造增加了额外的复杂性。一些立法者正试图修改公开权法律以解决该问题，但提出的解决方案往往对言论自由构成严重风险。白宫已呼吁就该问题采取“立法行动”，但即使它也没有提供关于这意味着什么的多少细节。

不过，还有其他权宜之计——比如社交网络限制非自愿图像的传播范围，或者，看起来斯威夫特对那些传播这些图像的人施加了私刑。但就目前而言，纳德拉唯一明确的计划是整顿微软自己的人工智能部门。