Crédito da imagem: MrBeast via Instagram
A estrela do YouTube MrBeast, também conhecido como Jimmy Donaldson, fez um alerta severo sobre a proliferação de golpes de deepfake nas redes sociais. Em um tweet, MrBeast revelou um recente vídeo deepfake no TikTok que usava sua imagem para promover uma oferta aparentemente irresistível: iPhones 15 por apenas 2 dólares cada.
MrBeast questiona a capacidade de lidar com deepfakes
O vídeo deepfake mostrava uma versão manipulada de forma convincente de MrBeast anunciando entusiasticamente: "Eu sou o MrBeast e estou fazendo a maior doação de iPhones do mundo!". Ele também fornecia um link para que os espectadores pudessem resgatar essa oferta boa demais para ser verdade.
Expressando sua preocupação, MrBeast questionou a capacidade das plataformas de redes sociais de combater o aumento do conteúdo deepfake gerado por IA. Ele levantou um ponto crucial. Ele perguntou: "As plataformas de redes sociais estão prontas para lidar com o aumento dos deepfakes por IA? É um problema sério."
No enganoso vídeo do TikTok, uma versão de MrBeast gerada por IA, usando seu icônico moletom rosa e boné de beisebol cinza, atraía os espectadores com uma oferta tentadora. A voz, diferente da de MrBeast, afirmava que um número limitado de pessoas poderia adquirir um iPhone 15 Pro por apenas 2 dólares. Ela os convidava a clicar em um link fornecido.
O vídeo exibia com destaque o logotipo do MrBeast e um nome de usuário com um selo de verificação. Isso imitava a aparência de uma conta legítima. No entanto, uma visita à conta verificada do MrBeast no Instagram não revelou nenhuma promoção desse tipo.
O alerta de MrBeast segue um aviso semelhante do ator Tom Hanks. Hanks se distanciou de um vídeo deepfake promovendo um plano odontológico. Ele enfatizou que não tinha participação alguma em sua criação.
Um caso longe de ser único
Os deepfakes, alimentados pelos avanços da tecnologia de IA, estão se tornando cada vez mais sofisticados. Torna-se mais difícil para os usuários distingui-los do conteúdo autêntico. Embora o deepfake de MrBeast apresentasse pequenas imperfeições, como erros ocasionais de sincronização labial, ele mostra o realismo alarmante que os deepfakes baseados em IA podem alcançar. Isso leva a um potencial engano.
O anúncio do TikTok com MrBeast foi removido desde então. Mas o incidente levanta questões sobre a capacidade das plataformas de redes sociais de combater efetivamente o conteúdo enganoso gerado por IA. TikTok, por exemplo, se recusou a comentar. No entanto, a plataforma remeteu às suas políticas de publicidade, que insistem em uma rotulagem clara para mídia sintética ou manipulada.
O caso de MrBeast não é único. Várias figuras públicas enfrentaram problemas semelhantes com o uso não autorizado de sua imagem. Em outro incidente recente, Zelda Williams, filha do falecido ator e comediante Robin Williams, expressou seu desconforto com as recriações por IA de seu pai circulando na internet.
Além disso, o impacto da IA se estende além do entretenimento. Os estúdios de Hollywood estão lidando com esse problema no âmbito das negociações em andamento com o SAG-AFTRA, o sindicato dos atores.
Uma necessidade urgente de combater os deepfakes
Uma investigação mais aprofundada revelou que a imagem supostamente da conta do Instagram de MrBeast na verdade vinha de uma miniatura de um vídeo do YouTuber ZHC intitulado "I Surprised MrBeast With Custom iPhones!". Essa revelação destacou as táticas enganosas empregadas pelas pessoas por trás do deepfake.
A página fraudulenta pedia aos usuários que verificassem se tinham mais de 18 anos. Ela apresentava vários "clientes satisfeitos" exibindo seus supostos iPhones 15.
O apelo de MrBeast contra os golpes de deepfake de IA ressalta a necessidade urgente de as plataformas de redes sociais fortalecerem suas defesas contra esse tipo de conteúdo. À medida que a tecnologia continua a avançar, é imperativo que medidas sejam implementadas para proteger os usuários contra esses esquemas de deepfake cada vez mais convincentes e enganosos.