Unmasking deepfake illusions and guarding against deception

• Les deepfakes génèrent de manière convaincante des contenus audio, vidéo ou images truqués, combinant les techniques d’apprentissage profond avec la création de contenus falsifiés.
• Bien qu’ils aient des utilisations dans le divertissement et le service client, leurs applications plus sombres incluent la diffusion de fausses informations et la facilitation de la fraude d’identité.
• La course aux armements continue contre les deepfakes stimule le développement d’outils de détection comme Sentinel et Sensity AI, ainsi que des initiatives collaboratives comme C2PA.

Les deepfakes, alimentés par l’IA, fabriquent de manière convaincante des tromperies audio, vidéo ou images, soulevant des préoccupations doubles: des applications bénignes dans le divertissement aux utilisations sinistres comme la désinformation et la fraude d’identité. Pour contrer cette menace, des outils de détection comme Sentinel et Sensity AI émergent, aux côtés d’initiatives comme C2PA. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Qu’est-ce que l’IA deepfake ?

L’IA deepfake est une forme d’intelligence artificielle utilisée pour produire des images, des fichiers audio et des vidéos truqués de manière convaincante. Le terme englobe à la fois la technologie elle-même et le contenu trompeur qui en résulte, et est un mélange de deep learning (apprentissage profond) et de fake (faux). Voir aussi: Alejandro Estua.

Les deepfakes manipulent généralement des sources existantes, substituant une personne à une autre. Ils génèrent également du contenu entièrement nouveau montrant des individus en train d’accomplir des actions ou de prononcer des paroles qu’ils n’ont en réalité jamais faites. Voir aussi: Alejandro Manzo.

La principale préoccupation concernant les deepfakes est leur capacité à diffuser de fausses informations semblant provenir de sources fiables. Par exemple, en 2022, une vidéo deepfake est apparue mettant en scène le président ukrainien Volodymyr Zelenskyy exhortant apparemment ses troupes à se rendre. Voir aussi: Alejandro Hernandez.

Il y a aussi des inquiétudes concernant les interférences potentielles dans les élections et la propagation de propagande électorale. « Les consultants politiques, les campagnes, les candidats et même les membres du grand public se précipitent dans l’utilisation de la technologie sans comprendre pleinement comment elle fonctionne ni, plus important encore, tous les préjudices potentiels qu’elle peut causer », a déclaré Carah Ong Whaley, responsable des programmes académiques au Centre UVA pour la politique. « Je suis particulièrement préoccupée par l’utilisation de l’IA pour la manipulation des électeurs – non seulement par le biais des deepfakes, mais aussi par la capacité de l’IA générative à faire du microciblage sous stéroïdes via des campagnes de SMS et d’e-mails », a-t-elle ajouté. Voir aussi: Alejandro Garza.

Les consultants politiques, les campagnes, les candidats et même les membres du grand public se précipitent dans l’utilisation de la technologie sans comprendre pleinement comment elle fonctionne ni, plus important encore, tous les préjudices potentiels qu’elle peut causer. Voir aussi: Alejandro Guerrero.

Carah Ong Whaley, responsable des programmes académiques au Centre UVA pour la politique

Malgré les risques importants associés aux deepfakes, ils ont également des applications légitimes, comme dans l’audio des jeux vidéo et le divertissement, ainsi que dans le support client et les systèmes de réponse aux appels, tels que le renvoi d’appels et les services de réceptionniste. Voir aussi: Alec Gramont.

Lire aussi: L’IA deepfake est-elle une IA générative ?

Applications de la technologie deepfake

Applications négatives

Chantage et atteinte à la réputation: Des exemples de cela se produisent lorsqu’une image cible est placée dans un scénario illégal, inapproprié ou compromettant, comme tromper le public, participer à des activités sexuelles explicites ou consommer de la drogue. Ces vidéos sont utilisées pour contraindre une victime, ternir la réputation d’un individu, chercher à se venger ou se livrer à du cyberharcèlement. La forme la plus répandue de chantage ou de vengeance est la pornographie deepfake non consentie, communément appelée revenge porn. En 2019, un logiciel appelé DeepNude a été développé, capable de rendre une femme nue en un seul clic, et il s’est rapidement propagé de manière virale à des fins malveillantes, en particulier pour harceler les femmes. Voir aussi: La chipflation de l'IA met sous pression les fabricants d'appareils au-delà des centres de données.

Fausses preuves: Des images ou fichiers audio deepfake fabriqués peuvent être présentés comme preuves dans des procédures judiciaires, impliquant faussement des individus ou les exonérant de leurs méfaits.

Fraude: Les deepfakes sont utilisés pour usurper l’identité d’individus, souvent dans le but d’obtenir des informations personnelles sensibles telles que des coordonnées bancaires ou des numéros de carte de crédit. Cette usurpation d’identité peut s’étendre à des cadres supérieurs ou à des employés ayant accès à des données confidentielles, représentant des menaces importantes pour la cybersécurité.

Et selon IEEE Spectrum, « La fraude à l’identité était la principale préoccupation concernant les deepfakes pour plus des trois quarts des répondants à un sondage du secteur de la cybersécurité réalisé par l’entreprise biométrique iProov. »

Désinformation et manipulation politique: Les vidéos deepfake de politiciens ou de personnalités de confiance sont utilisées pour manipuler l’opinion publique et semer la confusion, contribuant souvent à la diffusion de fausses nouvelles. Presque tous les dirigeants mondiaux, y compris Barack Obama, ancien président des États-Unis, Donald Trump, président en exercice des États-Unis, Nancy Pelosi, politicienne américaine, Angela Merkel, chancelière allemande, ont tous été exploités par de fausses vidéos d’une manière ou d’une autre, et même le fondateur de Facebook, Mark Zuckerberg, a été confronté à un incident similaire. Des exemples comme la vidéo deepfake impliquant le président ukrainien Volodymyr Zelenskyy illustrent le potentiel des deepfakes à exacerber les conflits et à déstabiliser les situations.

Manipulation boursière: Le contenu deepfake falsifié peut influencer les cours des actions, avec de fausses vidéos montrant des dirigeants faisant des déclarations préjudiciables sur leur entreprise entraînant une dépréciation des actions. À l’inverse, des vidéos fabriquées faisant la promotion de percées technologiques ou de lancements de produits peuvent gonfler artificiellement la valeur des actions.

Quiz rapide

Comment les vidéos deepfake de politiciens ou de personnalités de confiance contribuent-elles à la désinformation ?
A. En fournissant des informations précises au public
B. En manipulant l’opinion publique et en semant la confusion
C. En dénonçant la corruption politique
D. En promouvant la transparence au sein du gouvernement

La réponse correcte se trouve en bas de l’article.

Applications positives

Art: Les deepfakes sont utilisés pour générer de nouvelles compositions musicales à partir d’enregistrements existants d’œuvres d’artistes, permettant des approches innovantes de la création et du remixage musicaux. Et la technologie deepfake a démocratisé la création d’œuvres d’art, la rendant accessible à un plus large éventail d’individus. Elle permet aux artistes de produire des pièces innovantes, captivant le public avec des expériences uniques. Par exemple, le musée Dalí à St. Petersburg, en Floride, a utilisé la technologie deepfake pour donner vie à Salvador Dalí, permettant aux visiteurs d’interagir avec l’artiste renommé grâce à l’intelligence artificielle.

Marketing numérique: La technologie deepfake est de plus en plus utilisée dans les stratégies de marketing numérique pour créer un contenu engageant et immersif. En tirant parti des deepfakes, les marketeurs peuvent développer des publicités et des supports promotionnels hautement personnalisés, adaptés aux préférences individuelles et aux données démographiques. Par exemple, les deepfakes peuvent être utilisés pour superposer des images de produits sur des scénarios réels, permettant aux consommateurs de visualiser les avantages d’un produit dans leur propre environnement. De plus, la technologie deepfake permet la création de campagnes de narration captivantes, renforçant l’engagement envers la marque et favorisant la fidélité des clients. Par ailleurs, les deepfakes offrent aux marketeurs la possibilité de réutiliser le contenu existant de manière innovante, maximisant ainsi le retour sur investissement des campagnes publicitaires.

Cette technologie est de plus en plus appliquée dans le marketing numérique, permettant à l’entreprise de réduire ses coûts, de concevoir plus facilement des campagnes promotionnelles, de personnaliser son offre, d’offrir des expériences uniques à ses consommateurs, mais aussi de sensibiliser le marché cible à certaines questions sensibles d’importance sociale.

Radoslav Baltezarevic, vice-doyen des études supérieures et de la recherche scientifique, professeur de marketing, communication et gestion à l’Université Megatrend.

Services de réponse aux appels: Ces services tirent parti des deepfakes pour fournir des réponses personnalisées aux demandes des appelants, améliorant l’engagement et la satisfaction des clients, en particulier dans les tâches de renvoi d’appels et de réceptionniste.

Support téléphonique client: En utilisant des voix synthétiques générées par la technologie deepfake, les services de support client rationalisent les tâches de routine telles que la vérification des soldes de comptes ou le dépôt de plaintes, améliorant ainsi l’efficacité et l’expérience utilisateur.

Divertissement: L’industrie du divertissement exploite les deepfakes à diverses fins, notamment pour cloner et manipuler les voix des acteurs pour des scènes de films et de jeux vidéo. Cette approche s’avère précieuse lorsque des contraintes logistiques rendent le tournage traditionnel difficile ou lorsque les acteurs ne sont pas disponibles pour l’enregistrement vocal en post-production. De plus, les deepfakes contribuent au contenu satirique et parodique, offrant au public des aperçus humoristiques et des interprétations créatives de personnages familiers. Un exemple illustratif est le deepfake de 2023 mettant en vedette Dwayne « The Rock » Johnson dans le rôle de Dora l’exploratrice, montrant le potentiel d’expérimentation ludique avec la technologie deepfake.

Lire aussi: L’IA deepfake est-elle illégale ?

Outils et techniques de détection des deepfakes

Un outil de détection de deepfakes est un logiciel ou un système conçu pour identifier et détecter les vidéos ou images deepfake. Il utilise généralement diverses méthodes pour analyser le contenu numérique et déterminer s’il a été manipulé ou généré par l’IA.

Avec le nombre croissant de deepfakes, les logiciels de détection de deepfakes gagnent en popularité pour se protéger contre les effets néfastes des fausses vidéos et des faux fichiers audio. Le marché mondial des logiciels de détection de deepfakes devrait afficher un TCAC (taux de croissance annuel composé) de 38,3 % de 2024 à 2029. Et la taille du marché de la détection de fausses images devrait passer de 0,6 milliard de dollars en 2024 à 3,9 milliards de dollars d’ici 2029, avec un TCAC de 41,6 % au cours de la période de prévision.

Récemment, OpenAI a présenté un outil pour détecter les images créées par son générateur d’IA, DALL-E, alors que les experts avertissent que les deepfakes générés par l’IA influencent les élections. Le détecteur, efficace pour les images DALL-E mais pas pour les autres, sera testé par des chercheurs en désinformation. OpenAI travaille également sur le tatouage numérique du contenu d’IA et participe à des efforts comme C2PA pour l’authenticité du contenu numérique.

Avant qu’OpenAI ne présente son détecteur de deepfakes, il existait déjà des détecteurs performants.

Sentinel: Sentinel est une plateforme de protection basée sur l’IA qui aide les gouvernements démocratiques, les agences de défense et les entreprises à contrer la menace des deepfakes. Des organisations estimées à travers l’Europe s’appuient sur la technologie Sentinel pour se renforcer. Le mécanisme fonctionne en permettant aux utilisateurs de soumettre du contenu numérique via leur site Web ou leur API, après quoi il est soumis à un examen automatique pour détecter toute falsification par IA. Le système discerne l’authenticité du contenu et fournit une représentation graphique de toutes les modifications apportées.

Deepware: Deepware est un outil convivial conçu pour détecter les vidéos deepfake. Grâce à des algorithmes avancés d’apprentissage automatique, il analyse le contenu vidéo à la recherche de signes de manipulation, tels que des mouvements faciaux non naturels et des incohérences d’éclairage et d’ombres. Il fournit un score de probabilité indiquant la probabilité qu’une vidéo soit un deepfake, aidant les utilisateurs à évaluer rapidement son authenticité.

Sensity: Sensity offre une plateforme complète de détection de deepfakes en temps réel. Elle utilise une combinaison de vision par ordinateur et de techniques d’apprentissage profond pour analyser les trames vidéo et les signaux audio. La technologie de Sensity est utilisée par les gouvernements et les organisations médiatiques pour se protéger contre la diffusion de fausses nouvelles et de contenus malveillants.

L’outil Video Authenticator de Microsoft: L’outil Video Authenticator de Microsoft constitue une ressource puissante capable d’examiner à la fois les images fixes et le contenu vidéo, fournissant un indice de confiance indiquant une manipulation potentielle. Il identifie habilement les limites de fusion inhérentes aux deepfakes, ainsi que les nuances subtiles de niveaux de gris imperceptibles à l’œil humain. De plus, il fournit cet indice de confiance instantanément, facilitant l’identification rapide des deepfakes.

FakeCatcher d’Intel: Avec un taux de précision impressionnant de 96 %, FakeCatcher fournit des résultats en quelques millisecondes. Développé en collaboration avec Umur Ciftci de l’Université d’État de New York à Binghamton, FakeCatcher utilise le matériel et les logiciels Intel, fonctionnant sur un serveur et accessible via une interface Web. FakeCatcher adopte une approche novatrice en examinant les vidéos authentiques à la recherche d’indices authentiques définissant le comportement humain. Il se concentre sur des indicateurs subtils tels que le « flux sanguin » perceptible dans les pixels d’une vidéo. Lorsque le sang circule, les veines subissent des changements de couleur, et ces signaux nuancés sont collectés dans diverses régions du visage. Des algorithmes sophistiqués traduisent ensuite ces signaux en cartes spatiotemporelles. Grâce à des techniques d’apprentissage profond, FakeCatcher détermine rapidement l’authenticité d’une vidéo, en distinguant le contenu authentique du contenu fabriqué.

La réponse correcte est B, en manipulant l’opinion publique et en semant la confusion.