Crédit image: MrBeast via Instagram
La star de YouTube MrBeast, également connu sous le nom de Jimmy Donaldson, a lancé un avertissement sévère sur la prolifération des escroqueries par deepfake sur les réseaux sociaux. Dans un tweet, MrBeast a révélé une récente vidéo deepfake sur TikTok qui utilisait son image pour promouvoir une offre apparemment irrésistible: des iPhone 15 à seulement 2 $ pièce.
MrBeast s'interroge sur la capacité à gérer les deepfakes
La vidéo deepfake montrait une version manipulée de manière convaincante de MrBeast annonçant avec enthousiasme: « Je suis MrBeast, et je fais le plus grand cadeau d'iPhone au monde! ». Elle fournissait également un lien pour que les spectateurs puissent réclamer cette offre trop belle pour être vraie.
Exprimant son inquiétude, MrBeast a remis en question la capacité des plateformes de réseaux sociaux à lutter contre l'augmentation du contenu deepfake généré par l'IA. Il a soulevé un point crucial. Il a demandé: « Les plateformes de réseaux sociaux sont-elles prêtes à gérer la montée des deepfakes par IA? C'est un problème sérieux. »
Dans la vidéo TikTok trompeuse, une version de MrBeast générée par IA, portant son sweat à capuche rose emblématique et sa casquette de baseball grise, attirait les spectateurs avec une offre alléchante. La voix, différente de celle de MrBeast, affirmait qu'un nombre limité de personnes pouvaient acquérir un iPhone 15 Pro pour seulement 2 $. Elle les invitait à cliquer sur un lien fourni.
La vidéo affichait bien en évidence le logo de MrBeast et un nom d'utilisateur avec une coche de vérification. Cela imitait l'apparence d'un compte légitime. Cependant, une visite sur le compte Instagram vérifié de MrBeast n'a révélé aucune promotion de ce type.
L'appel de MrBeast fait suite à un avertissement similaire de l'acteur Tom Hanks. Hanks s'est dissocié d'une vidéo deepfake faisant la promotion d'un plan dentaire. Il a souligné qu'il n'avait aucunement participé à sa création.
Un cas loin d'être unique
Les deepfakes, alimentés par les progrès de la technologie de l'IA, deviennent de plus en plus sophistiqués. Il devient plus difficile pour les utilisateurs de les distinguer du contenu authentique. Bien que le deepfake de MrBeast présentait des imperfections mineures, comme des erreurs occasionnelles de synchronisation labiale, il montre le réalisme alarmant que les deepfakes basés sur l'IA peuvent atteindre. Cela conduit à une tromperie potentielle.
La publicité TikTok mettant en scène MrBeast a depuis été supprimée. Mais l'incident soulève des questions sur la capacité des plateformes de réseaux sociaux à lutter efficacement contre le contenu trompeur généré par IA. TikTok, par exemple, a refusé de commenter. Cependant, la plateforme a renvoyé à ses politiques publicitaires, qui insistent sur un étiquetage clair pour les médias synthétiques ou manipulés.
Le cas de MrBeast n'est pas unique. Plusieurs personnalités publiques ont été confrontées à des problèmes similaires avec l'utilisation non autorisée de leur image. Dans un autre incident récent, Zelda Williams, la fille du défunt acteur et comédien Robin Williams, a exprimé son malaise face aux recréations par IA de son père circulant sur Internet.
De plus, l'impact de l'IA s'étend au-delà du divertissement. Les studios hollywoodiens sont aux prises avec ce problème dans le cadre des négociations en cours avec la SAG-AFTRA, le syndicat des acteurs.
Un besoin urgent de lutter contre les deepfakes
Une enquête plus approfondie a révélé que l'image prétendument issue du compte Instagram de MrBeast provenait en réalité d'une vignette d'une vidéo du YouTuber ZHC intitulée « I Surprised MrBeast With Custom iPhones! ». Cette révélation a mis en lumière les tactiques trompeuses employées par les personnes derrière le deepfake.
La page frauduleuse demandait aux utilisateurs de vérifier qu'ils avaient plus de 18 ans. Elle présentait plusieurs « clients satisfaits » exhibant leurs supposés iPhone 15.
L'appel à l'action de MrBeast contre les escroqueries par deepfake d'IA souligne le besoin urgent pour les plateformes de réseaux sociaux de renforcer leurs défenses contre ce type de contenu. Alors que la technologie continue de progresser, il est impératif que des mesures soient mises en place pour protéger les utilisateurs contre ces stratagèmes de deepfake de plus en plus convaincants et trompeurs.