YouTube 红人 MrBeast（本名 Jimmy Donaldson）对社交媒体平台上深度伪造诈骗的泛滥发出严厉警告。他通过推文揭露了 TikTok 上一个近期深度伪造视频，该视频利用他的形象宣传一个看似难以抗拒的优惠：iPhone 15 每部仅售 2 美元。
MrBeast 质疑平台应对深度伪造的能力
该深度伪造视频展示了一个令人信服的篡改版 MrBeast，他热情地宣布：“我是 MrBeast，我正在举办全球最大的 iPhone 赠送活动！”视频还提供了一个链接，让观众领取这个好得难以置信的优惠。
MrBeast 表达了他的担忧，质疑社交媒体平台是否准备好应对 AI 生成的深度伪造内容的激增。他提出了一个关键问题：“社交媒体平台准备好应对 AI 深度伪造的兴起吗？这是一个严重的问题。”
在这个欺诈性的 TikTok 视频中，一个 AI 生成的 MrBeast 版本，穿着他标志性的粉色连帽衫和灰色棒球帽，用一个诱人的优惠引诱观众。这个声音与 MrBeast 本人不同，声称限量购买 iPhone 15 Pro 只需 2 美元，并引导他们点击提供的链接。
视频显著显示了 MrBeast 的标志和带有验证勾的用户名，模仿了合法账户的外观。然而，访问 MrBeast 经过验证的 Instagram 账户后，并没有发现这样的促销活动。
MrBeast 的呼吁紧随演员 Tom Hanks 的类似警告之后。Hanks 否认与一个代言牙科计划的深度伪造视频有关，并强调他没有参与其制作。
并非个案
在 AI 技术进步的推动下，深度伪造变得越来越复杂，使用户更难将其与真实内容区分开来。尽管 MrBeast 的深度伪造视频存在一些小的瑕疵，如偶尔的口型不同步，但它展示了 AI 驱动的深度伪造能够达到令人震惊的逼真度，这可能导致潜在的欺骗。
那个包含 MrBeast 的 TikTok 广告已被移除。但这一事件引发了人们对社交媒体平台有效打击欺骗性 AI 内容能力的质疑。例如，TikTok 拒绝置评，但提到了其广告政策，该政策要求对合成或操纵的媒体进行明确标注。
MrBeast 的案例并非唯一。许多公众人物都面临过类似未经授权使用他们肖像的挑战。在另一起近期事件中，已故演员兼喜剧演员 Robin Williams 的女儿 Zelda Williams 对网络上流传的 AI 再造她父亲的形象表示不适。
此外，AI 的影响超出了娱乐领域。好莱坞电影公司正在与演员工会 SAG-AFTRA 进行的持续谈判中努力解决这个问题。
打击深度伪造的紧迫需求
进一步调查显示，据称来自 MrBeast Instagram 账户的图片实际上源自 YouTuber ZHC 视频中的一个缩略图，该视频标题为“我用定制 iPhone 给 MrBeast 一个惊喜！”这一发现揭示了深度伪造背后的人所使用的欺骗手段。
这个欺诈页面要求用户验证年龄超过 18 岁，并展示了几位“满意客户”炫耀他们声称的 iPhone 15。
MrBeast 对 AI 深度伪造诈骗的呼吁凸显了社交媒体平台加强防范此类内容的迫切性。随着技术的不断进步，必须采取措施保护用户，使他们免于成为这些越来越具说服力和欺骗性的深度伪造阴谋的受害者。