Звезда YouTube MrBeast, также известный как Джимми Дональдсон, выступил с резким предупреждением о распространении дипфейк-мошенничеств в социальных сетях. В твите MrBeast рассказал о недавнем дипфейк-видео в TikTok, в котором его образ использовался для продвижения, казалось бы, неотразимого предложения: iPhone 15 всего за 2 доллара за штуку.
MrBeast сомневается в готовности справляться с дипфейками
Дипфейк-видео показывало убедительно подделанную версию MrBeast, который с энтузиазмом объявлял: «Я MrBeast, и я устраиваю самый большой в мире розыгрыш iPhone!». В нём также содержалась ссылка, по которой зрители могли попытаться получить это предложение, слишком хорошее, чтобы быть правдой.
Выражая обеспокоенность, MrBeast поставил под сомнение способность платформ социальных сетей бороться с ростом дипфейк-контента, создаваемого ИИ. Он затронул ключевой момент и спросил: «Готовы ли платформы социальных сетей справиться с ростом дипфейков на основе ИИ? Это серьёзная проблема».
В вводящем в заблуждение ролике TikTok версия MrBeast, созданная ИИ, в его фирменной розовой худи с капюшоном и серой бейсболке привлекала зрителей заманчивым предложением. Голос, не похожий на голос MrBeast, утверждал, что ограниченное число людей может получить iPhone 15 Pro всего за 2 доллара, и приглашал их перейти по указанной ссылке.
В видео были хорошо заметны логотип MrBeast и имя пользователя с галочкой верификации, что имитировало вид легитимного аккаунта. Однако посещение подтверждённого аккаунта MrBeast в Instagram не выявило подобной рекламной акции.
Призыв MrBeast прозвучал после аналогичного предупреждения актёра Тома Хэнкса. Хэнкс отмежевался от дипфейк-видео, рекламировавшего стоматологический план, и подчеркнул, что никак не участвовал в его создании.
Случай далеко не единичный
Дипфейки, подпитываемые достижениями технологии ИИ, становятся всё более изощрёнными. Пользователям становится всё труднее отличать их от подлинного контента. Хотя дипфейк с MrBeast имел незначительные недочёты, например случайные ошибки синхронизации губ, он демонстрирует тревожный реализм, которого могут достигать дипфейки на основе ИИ, что ведёт к потенциальному обману.
Реклама в TikTok с участием MrBeast с тех пор была удалена. Но инцидент поднимает вопросы о способности платформ социальных сетей эффективно бороться с вводящим в заблуждение контентом, созданным ИИ. TikTok, например, отказался от комментариев, но сослался на свои рекламные политики, которые требуют чёткой маркировки синтетических или изменённых медиа.
Случай с MrBeast не уникален. Несколько публичных лиц столкнулись с аналогичными проблемами из-за несанкционированного использования их образа. В другом недавнем инциденте Зельда Уильямс, дочь покойного актёра и комика Робина Уильямса, выразила беспокойство по поводу распространяющихся в интернете рекреаций её отца с помощью ИИ.
Кроме того, влияние ИИ выходит за пределы индустрии развлечений. Голливудские студии пытаются решить эту проблему в рамках продолжающихся переговоров с SAG-AFTRA, профсоюзом актёров.
Настоятельная необходимость бороться с дипфейками
Дальнейшее расследование показало, что изображение, якобы взятое из аккаунта MrBeast в Instagram, на самом деле было миниатюрой видео ютубера ZHC под названием «I Surprised MrBeast With Custom iPhones!». Это разоблачение пролило свет на обманные тактики, использованные теми, кто стоял за дипфейком.
Мошенническая страница требовала от пользователей подтвердить, что им больше 18 лет, и показывала несколько «довольных клиентов», демонстрировавших свои якобы iPhone 15.
Призыв MrBeast к борьбе с дипфейк-мошенничеством на основе ИИ подчёркивает настоятельную необходимость для платформ социальных сетей укрепить свою защиту от такого контента. По мере дальнейшего развития технологий крайне важно принять меры для защиты пользователей от этих всё более убедительных и обманчивых дипфейк-схем.