Elon Musk va encore devoir faire des heures supplémentaires, et je crains que les plateformes de médias sociaux ne s’enflamment à nouveau autour de la vie privée des célébrités. Quand les infractions liées à l’intelligence artificielle cesseront-elles ? Depuis l’émergence de la technologie de « changement de visage par IA », les incidents se multiplient, et de nombreuses stars ont été victimes de ce « changement de visage par IA » à des fins de promotion commerciale.
Pire encore, les portraits de stars, de célébrités ou de personnes ordinaires sont remplacés par des photos ou vidéos à caractère pornographique, violent, dégradant, etc., diffusés et vendus, amenant le public à croire à tort que ces images sont réelles, ce qui porte atteinte à la réputation des personnes visées. L’affaire du « changement de visage par IA » concerne ici de fausses informations sur Taylor Swift.
Dernières victimes
La dernière victime de Deepfake est apparue – la star planétaire et streameuse numéro un, Taylor Swift.
En l’espace de quelques heures, X, Facebook et d’autres plateformes ont été inondées de fausses « photos compromettantes » vues par des dizaines de millions de personnes. Taylor Swift, informée de l’incident, a exprimé son indignation, et ses fans se sont organisés pour la défendre.
Sur X, des fans en colère se sont adressés directement à @Musk, le sommant de réagir. L’incident a commencé lorsque le nouveau petit ami de Taylor Swift, le joueur de football américain Travis Kelce, jouait pour les Kansas City Chiefs; Taylor était devenue une habituée des matchs depuis la révélation de leur relation. L’IA a été utilisée pour générer des photos explicites de Taylor avec divers « joueurs » fictifs sur fond de stade.
Les rumeurs abondent quant à la manière dont les images sont devenues virales, certains suggérant qu’elles sont d’abord apparues dans un groupe de discussion crypté. D’autres rapports affirment que les photos Deepfake ont été initialement publiées sur un site web douteux, rempli de photos compromettantes de célébrités.
Outre Taylor, le site présentait des centaines d’autres célébrités, dont Margot Robbie, qui incarne Barbie.
Une tourmente incessante
À ce jour, certains comptes impliqués dans la diffusion des photos ont été suspendus par les principales plateformes, mais il y a encore des fuites.
Du côté de Facebook, la société mère Meta a déclaré par la voix d’un porte-parole: « Ce contenu enfreint nos règles et nous le supprimons de notre plateforme tout en prenant des mesures contre le compte qui l’a publié. »
Interrogé lors d’une conférence de presse à la Maison Blanche le 26, le porte-parole Jean-Pierre a déclaré: « Nous sommes préoccupés par la circulation de ce type d’images, et plus particulièrement de fausses images, ce qui est inquiétant. »
« Bien que les entreprises de médias sociaux puissent prendre des décisions indépendantes en matière de gestion de contenu, nous pensons qu’elles ont un rôle important à jouer dans l’application de leurs propres règles pour empêcher la diffusion de fausses informations et d’images privées de personnes réelles sans leur consentement », a ajouté Jean-Pierre. Elle a également souligné que l’application laxiste des règles sur internet touche davantage les femmes, qui sont les principales cibles du harcèlement et du cyberharcèlement. Selon elle, ce n’est pas un problème nouveau, c’est une priorité que les administrations Biden et Harris ont placée au premier plan depuis leur entrée en fonction, « et nous le prenons très au sérieux. Une fois de plus, cela nous préoccupe. »
Il convient de noter que ce n’est pas la première fois que Taylor Swift est victime de l’IA. Début janvier, une publicité générée par IA pour une fausse promotion de Taylor Swift est devenue virale sur Facebook.
« Salut tout le monde, c’est Taylor Swift. En raison d’une erreur d’emballage, 3 000 ensembles de cuisine Le Creuset n’ont pas pu être vendus correctement en magasin et ont été mis en ligne. J’ai une bonne nouvelle à partager: je me suis associée à Le Creuset pour une promotion – 20 de mes fans fidèles recevront un ensemble gratuit. »
En réalité, la « Mildew » dans la vidéo n’est pas vraiment Swift, mais une technologie d’« hypertrucage » par IA qui a synthétisé sa voix et l’a combinée avec son image et un extrait d’une publicité Le Creuset. L’entreprise a rapidement réagi en déclarant que Swift n’était impliquée dans aucun cadeau promotionnel et que toutes les promotions du produit provenaient de campagnes officielles sur les réseaux sociaux.
Qu’est-ce que le Deepfake par IA ?
La technologie du Deepfake par IA attire à nouveau l’attention. Deepfake (ou hypertrucage) est un mot-valise anglais formé de « deep learning » et « fake », qui désigne l’utilisation de techniques d’apprentissage profond pour générer des images, des fichiers audio ou des vidéos synthétiques.
Siwei Lyu, professeur d’informatique au Media Forensics Lab de l’université de Buffalo, a déclaré que l’arnaque par « deep fake » a probablement été créée à l’aide d’un service de synthèse vocale. Ces outils transforment des scripts en sons et les synchronisent avec des clips vidéo grâce à un programme de lip-sync.