Démasquer les illusions des deepfakes et se protéger contre la tromperie

• Les deepfakes créent de manière convaincante des tromperies audio, vidéo ou visuelles, en combinant des techniques d'apprentissage profond avec la création de contenu falsifié.
• Bien qu'ils aient des utilisations dans le divertissement et le service client, leurs applications plus sombres incluent la diffusion de fausses informations et la facilitation de la fraude à l'identité.
• La course aux armements en cours contre les deepfakes stimule le développement d'outils de détection comme Sentinel et Sensity AI, ainsi que des initiatives collaboratives telles que C2PA.

Les deepfakes, alimentés par l'IA, créent de manière convaincante des tromperies audio, vidéo ou visuelles, soulevant deux préoccupations: des applications bénignes dans le divertissement à des utilisations sinistres comme la diffusion de fausses informations et la facilitation de la fraude à l'identité. Pour contrer cette menace, des outils de détection comme Sentinel et Sensity AI émergent, aux côtés d'initiatives comme C2PA.

Qu'est-ce que l'IA de deepfake?

L'IA de deepfake est une forme d'intelligence artificielle utilisée pour produire des images, des sons et des vidéos trompeurs convaincants. Le terme englobe à la fois la technologie elle-même et le contenu trompeur qui en résulte, et est un mélange de « deep learning » (apprentissage profond) et de « fake » (faux).

Les deepfakes manipulent généralement du matériel source existant, en remplaçant une personne par une autre. Ils génèrent également du contenu entièrement nouveau montrant des individus en train d'accomplir des actions ou de prononcer des paroles qu'ils n'ont jamais réellement dites ou faites.

La principale préoccupation concernant les deepfakes est leur capacité à diffuser de fausses informations semblant provenir de sources fiables. Par exemple, en 2022, une vidéo deepfake a été diffusée montrant le président ukrainien Volodymyr Zelenskyy exhortant prétendument ses troupes à se rendre.

Il existe également des inquiétudes concernant l'ingérence potentielle dans les élections et la propagation de propagande électorale. « Les consultants politiques, les campagnes, les candidats et même les membres du grand public utilisent cette technologie sans comprendre pleinement son fonctionnement ni, plus important encore, tous les dangers potentiels qu'elle peut causer », a déclaré Carah Ong Whaley, responsable du programme académique du Centre de politique de l'UVA.

« Je suis particulièrement préoccupée par l'utilisation de l'IA pour la manipulation des électeurs – non seulement par le biais des deepfakes, mais aussi par la capacité de l'IA générative à effectuer un microciblage surpuissant via des campagnes de SMS et d'e-mails », a-t-elle ajouté.

Les consultants politiques, les campagnes, les candidats et même les membres du grand public utilisent cette technologie sans comprendre pleinement son fonctionnement ni, plus important encore, tous les dangers potentiels qu'elle peut causer.

Carah Ong Whaley, responsable du programme académique du Centre de politique de l'UVA

Malgré les risques importants associés aux deepfakes, ils ont également des applications légitimes, comme dans l'audio des jeux vidéo et le divertissement, ainsi que dans le support client et les systèmes de réponse aux appels, tels que le transfert d'appels et les services de réceptionniste.

Lire aussi:L'IA générative est-elle du deepfake?

Applications de la technologie deepfake

Applications négatives

Chantage et atteinte à la réputation:Cela se produit lorsque l'image d'une cible est placée dans un scénario illégal, inapproprié ou compromettant, comme tromper le public, participer à des activités sexuelles explicites ou consommer de la drogue. Ces vidéos sont utilisées pour contraindre une victime, ternir la réputation d'un individu, chercher à se venger ou se livrer à du cyberharcèlement. La forme la plus répandue de chantage ou de vengeance est la pornographie deepfake non consensuelle, communément appelée revenge porn. En 2019, un logiciel appelé DeepNude a été développé, capable de rendre une femme nue en un seul clic, et il s'est rapidement propagé de manière virale à des fins malveillantes, notamment pour harceler les femmes.

Fausses preuves:Des images ou des sons deepfake falsifiés peuvent être présentés comme preuves dans des procédures judiciaires, impliquant faussement des individus ou les innocentant de méfaits.

Fraude:Les deepfakes sont utilisés pour usurper l'identité d'individus, souvent dans le but d'obtenir des informations personnelles sensibles comme des coordonnées bancaires ou des numéros de carte de crédit. Cette usurpation peut s'étendre à des cadres dirigeants ou à des employés ayant accès à des données confidentielles, ce qui représente des menaces importantes pour la cybersécurité.

Et selon IEEE Spectrum, « la fraude à l'identité était la principale préoccupation concernant les deepfakes pour plus des trois quarts des répondants à un sondage de l'industrie de la cybersécurité mené par la société biométrique iProov. »

Désinformation et manipulation politique:Les vidéos deepfake de politiciens ou de personnalités de confiance sont utilisées pour manipuler l'opinion publique et semer la confusion, contribuant souvent à la diffusion de fausses nouvelles. Presque tous les dirigeants mondiaux, y compris Barack Obama, ancien président des États-Unis, Donald Trump, alors président des États-Unis, Nancy Pelosi, politicienne américaine, Angela Merkel, chancelière allemande, ont tous été exploités d'une manière ou d'une autre par de fausses vidéos, et même le fondateur de Facebook, Mark Zuckerberg, a été confronté à un cas similaire. Des cas comme la vidéo deepfake du président ukrainien Volodymyr Zelenskyy illustrent le potentiel des deepfakes à exacerber les conflits et à déstabiliser les situations.

Manipulation boursière:Le contenu deepfake falsifié peut influencer le cours des actions, avec de fausses vidéos montrant des dirigeants faisant des déclarations préjudiciables sur leur entreprise, entraînant une dépréciation des actions. À l'inverse, des vidéos fabriquées promouvant des avancées technologiques ou des lancements de produits peuvent gonfler artificiellement la valeur des actions.

Quiz

Comment les vidéos deepfake de politiciens ou de personnalités de confiance contribuent-elles à la désinformation?
A. En fournissant des informations précises au public
B. En manipulant l'opinion publique et en semant la confusion
C. En exposant la corruption politique
D. En promouvant la transparence au sein du gouvernement

La réponse correcte se trouve en bas de l'article.

Applications positives

Art:Les deepfakes sont utilisés pour générer de nouvelles compositions musicales à partir d'enregistrements existants d'œuvres d'artistes, permettant des approches innovantes de la création musicale et du remixage. Et la technologie deepfake a démocratisé la création d'œuvres d'art, la rendant accessible à un plus large éventail de personnes. Elle permet aux artistes de produire des pièces innovantes, captivant le public avec des expériences uniques. Par exemple, le Musée Dalí à St. Petersburg, en Floride, a utilisé la technologie deepfake pour donner vie à Salvador Dalí, permettant aux visiteurs d'interagir avec le célèbre artiste grâce à l'intelligence artificielle.

Marketing numérique:La technologie deepfake est de plus en plus utilisée dans les stratégies de marketing numérique pour créer un contenu engageant et immersif. En tirant parti des deepfakes, les spécialistes du marketing peuvent développer des publicités et des supports promotionnels hautement personnalisés, adaptés aux préférences et aux caractéristiques démographiques de chacun. Par exemple, les deepfakes peuvent être utilisés pour superposer des images de produits sur des scénarios réels, permettant aux consommateurs de visualiser les avantages d'un produit dans leur propre environnement. En outre, la technologie deepfake permet de créer des campagnes de narration convaincantes, renforçant l'engagement de la marque et fidélisant les clients. De plus, les deepfakes offrent aux spécialistes du marketing la possibilité de réutiliser le contenu existant de manière innovante, maximisant ainsi le retour sur investissement des campagnes publicitaires.

« Cette technologie est de plus en plus appliquée dans le marketing numérique, permettant aux entreprises de réduire leurs coûts, de concevoir plus facilement des campagnes promotionnelles, de personnaliser leur offre, d'offrir des expériences uniques à leurs consommateurs, mais aussi de sensibiliser le marché cible à certaines questions sensibles d'importance sociale », a déclaré Radoslav Baltezarevic, vice-doyen chargé des études supérieures et de la recherche scientifique, professeur en marketing, communication et gestion, Université Megatrend.

Cette technologie est de plus en plus appliquée dans le marketing numérique, permettant aux entreprises de réduire leurs coûts, de concevoir plus facilement des campagnes promotionnelles, de personnaliser leur offre, d'offrir des expériences uniques à leurs consommateurs, mais aussi de sensibiliser le marché cible à certaines questions sensibles d'importance sociale.

Radoslav Baltezarevic, vice-doyen chargé des études supérieures et de la recherche scientifique

Services de réponse aux appels:Ces services utilisent les deepfakes pour fournir des réponses personnalisées aux demandes des appelants, améliorant ainsi l'engagement et la satisfaction des clients, en particulier dans les tâches de transfert d'appel et de réceptionniste.

Support téléphonique client:En utilisant des voix synthétiques générées par la technologie deepfake, les services de support client rationalisent les tâches courantes telles que la vérification des soldes de comptes ou le dépôt de réclamations, améliorant ainsi l'efficacité et l'expérience utilisateur.

Divertissement:L'industrie du divertissement exploite les deepfakes à diverses fins, notamment le clonage et la manipulation des voix des acteurs pour des scènes de films et de jeux vidéo. Cette approche s'avère précieuse lorsque des contraintes logistiques rendent le tournage traditionnel difficile ou lorsque les acteurs ne sont pas disponibles pour l'enregistrement vocal en post-production. De plus, les deepfakes contribuent au contenu satirique et parodique, offrant au public des perspectives humoristiques et des interprétations créatives de personnages familiers. Un exemple illustratif est le deepfake de 2023 mettant en vedette Dwayne « The Rock » Johnson dans le rôle de Dora l'Exploratrice, démontrant le potentiel d'expérimentation ludique avec la technologie deepfake.

Lire aussi:L'IA de deepfake est-elle illégale?

Outils et techniques de détection des deepfakes

Un outil de détection de deepfake est un logiciel ou un système conçu pour identifier et détecter les vidéos ou images deepfake. Il utilise généralement diverses méthodes pour analyser le contenu numérique et déterminer s'il a été manipulé ou généré par l'IA.

Avec le nombre croissant de deepfakes, les logiciels de détection de deepfakes deviennent de plus en plus populaires pour se protéger contre les effets néfastes des fausses vidéos et des faux enregistrements audio. Le marché mondial des logiciels de détection de deepfakes devrait afficher un TCAC de 38,3 % de 2024 à 2029. Et la taille du marché de la détection de fausses images devrait passer de 0,6 milliard de dollars en 2024 à 3,9 milliards de dollars d'ici 2029, à un taux de croissance annuel composé (TCAC) de 41,6 % au cours de la période de prévision.

Récemment, OpenAI a présenté un outil permettant de détecter les images créées par son générateur d'IA, DALL-E, alors que les experts mettent en garde contre l'influence des deepfakes générés par l'IA sur les élections. Le détecteur, efficace pour les images DALL-E mais pas pour les autres, sera testé par des chercheurs en désinformation. OpenAI travaille également sur le filigranage de contenu IA et participe à des efforts comme C2PA pour l'authenticité du contenu numérique.

Avant qu'OpenAI n'introduise son détecteur de deepfakes, il existait déjà des détecteurs performants disponibles.

Sentinel:Sentinelest une plateforme de protection basée sur l'IA qui aide les gouvernements démocratiques, les agences de défense et les entreprises à contrer la menace des deepfakes. Des organisations estimées à travers l'Europe s'appuient sur la technologie de Sentinel pour leur fortification. Le mécanisme fonctionne en permettant aux utilisateurs de soumettre du contenu numérique via leur site Web ou leur API, après quoi il est soumis à un examen automatique pour détecter toute altération par l'IA. Le système discerne l'authenticité du contenu et fournit une représentation graphique de toutes les modifications apportées.

Deepware:Deepwareest un outil convivial conçu pour détecter les vidéos deepfake. Grâce à des algorithmes avancés d'apprentissage automatique, il analyse le contenu vidéo à la recherche de signes de manipulation, tels que des mouvements faciaux anormaux et des incohérences dans l'éclairage et les ombres. Il fournit un score de probabilité indiquant la probabilité qu'une vidéo soit un deepfake, aidant ainsi les utilisateurs à évaluer rapidement son authenticité.

Sensity:Sensitypropose une plateforme complète pour détecter les deepfakes en temps réel. Elle utilise une combinaison de vision par ordinateur et de techniques d'apprentissage profond pour analyser les images vidéo et les signaux audio. La technologie de Sensity est utilisée par les gouvernements et les médias pour se protéger contre la diffusion de fausses nouvelles et de contenus malveillants.

Outil d'authentification vidéo de Microsoft:L'outil d'authentification vidéo de Microsoft constitue une ressource puissante capable d'examiner à la fois les images fixes et le contenu vidéo, fournissant une note de confiance indiquant une manipulation potentielle. Il identifie habilement les limites de fusion inhérentes aux deepfakes, ainsi que les nuances subtiles de niveaux de gris imperceptibles à l'œil humain. De plus, il fournit cette note de confiance instantanément, facilitant une identification rapide des deepfakes.

FakeCatcher d'Intel:Avec un taux de précision impressionnant de 96 %, FakeCatcher fournit des résultats en quelques millisecondes. Développé en collaboration avec Umur Ciftci de l'Université d'État de New York à Binghamton, FakeCatcher utilise le matériel et les logiciels Intel, fonctionnant sur un serveur et accessible via une interface Web. FakeCatcher utilise une approche novatrice en examinant les vidéos authentiques à la recherche d'indices qui définissent le comportement humain. Il se concentre sur des indicateurs subtils tels que le « flux sanguin » visible dans les pixels d'une vidéo. Lorsque le sang circule, les veines changent de couleur, et ces signaux nuancés sont collectés à partir de diverses régions du visage. Des algorithmes sophistiqués transforment ensuite ces signaux en cartes spatiotemporelles. Grâce aux techniques d'apprentissage profond, FakeCatcher détermine rapidement l'authenticité d'une vidéo, en distinguant le contenu authentique du contenu fabriqué.

La bonne réponse est B, en manipulant l'opinion publique et en semant la confusion.