How does deepfake AI work?

• L'IA deepfake utilise des algorithmes avancés pour créer un contenu faux convaincant, présentant à la fois des merveilles technologiques et des menaces potentielles. Cela soulève la question de son fonctionnement.
• Sa légalité reste ambiguë, seuls quelques États ayant des réglementations spécifiques.
• Malgré leur statut juridique, les deepfakes présentent des risques importants, notamment le chantage, la manipulation politique et la fraude, soulignant le besoin urgent d'une législation complète et de sensibilisation.

L'IA deepfake désigne une forme d'intelligence artificielle créant des images, des fichiers audio et des vidéos contrefaits convaincants. Fusionnant « deep learning » (apprentissage profond) et « fake » (faux), elle englobe à la fois la technologie et le contenu trompeur qu'elle génère. Les deepfakes substituent des individus dans un contenu existant ou fabriquent des scénarios entièrement nouveaux, montrant des actions ou des paroles qui n'ont jamais eu lieu. Le principal danger des deepfakes réside dans leur capacité à diffuser des informations trompeuses semblant authentiques. Voyons maintenant comment fonctionne l'IA deepfake.

À lire aussi: Quel générateur de voix IA tout le monde utilise-t-il ?

À lire aussi: L'IA générative dans l'industrie pharmaceutique

Qu'est-ce que l'IA deepfake ?

L'IA deepfake est un type d'intelligence artificielle utilisée pour fabriquer des canulars convaincants sous forme d'images, de fichiers audio et de vidéos. Elle combine l'apprentissage profond et la falsification, transformant un contenu source existant ou générant des scénarios entièrement nouveaux. Le terme « deepfake » englobe à la fois la technologie et le contenu falsifié qui en résulte, fusionnant les concepts d'apprentissage profond et de falsification. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Ces deepfakes impliquent souvent la modification de contenu existant, comme le remplacement d'une personne par une autre, ou la création de contenu entièrement nouveau montrant des individus accomplissant des actions ou prononçant des paroles qu'ils n'ont jamais faites. Notamment, les deepfakes présentent un risque important en raison de leur potentiel à diffuser de fausses informations sous le couvert de sources fiables. Par exemple, en 2022, une vidéo deepfake a fait surface montrant le président ukrainien Volodymyr Zelenskyy donnant un ordre de reddition à ses troupes.

Des préoccupations ont été soulevées concernant l'utilisation abusive des deepfakes dans les élections et la propagande, soulignant les menaces sérieuses qu'ils représentent. Cependant, il est important de reconnaître que les deepfakes servent également à des fins légitimes dans diverses applications, notamment les jeux vidéo, le divertissement et le service client, comme le transfert d'appel et les services de réceptionniste. Voir aussi: Association ECHOES.

Comment fonctionne l'IA deepfake ?

La technologie deepfake utilise deux algorithmes clés, à savoir un générateur et un discriminateur, pour produire et améliorer du contenu fabriqué. Initialement, le générateur construit un ensemble de données basé sur le résultat souhaité, générant le premier contenu numérique factice. Ensuite, le discriminateur évalue l'authenticité du contenu initial, en faisant la distinction entre le réalisme et l'artificialité. Par des processus itératifs, le générateur affine sa capacité à générer un contenu convaincant, tandis que le discriminateur améliore sa capacité à détecter les imperfections que le générateur doit corriger. Voir aussi: Département IT - Athlok.

Cette combinaison d'algorithmes de générateur et de discriminateur forme un réseau antagoniste génératif (GAN). Les GAN utilisent des techniques d'apprentissage profond pour identifier des motifs dans des images authentiques, en exploitant ces motifs pour générer du contenu synthétique. Par exemple, lors de la création d'une photographie deepfake, un GAN examine diverses images du sujet sous différents angles afin de capturer des détails et des perspectives complets. De même, lors du développement d'une vidéo deepfake, le GAN analyse le contenu vidéo sous plusieurs points de vue, tout en examinant les indices comportementaux, les mouvements et les schémas de parole. Ensuite, ces données sont soumises à de multiples évaluations par le discriminateur pour affiner le réalisme du résultat final.

Les vidéos deepfake sont généralement produites par l'une des deux méthodes suivantes. Premièrement, elles peuvent utiliser une vidéo originale présentant l'individu cible, en manipulant le contenu pour montrer des actions ou des déclarations que l'individu n'a jamais réellement effectuées. Alternativement, les vidéos deepfake peuvent impliquer de substituer le visage de l'individu cible sur la séquence vidéo d'un autre individu, ce que l'on appelle communément un échange de visages. Voir aussi: Alejandro Estua.

Il existe diverses méthodes utilisées pour créer des deepfakes

Utilisation de vidéos sources: Un autoencodeur deepfake, piloté par des réseaux de neurones, scrute les vidéos sources pour saisir les attributs significatifs de la cible, comme les expressions faciales et le langage corporel. Il intègre ensuite ces caractéristiques dans la vidéo originale à l'aide d'un système encodeur-décodeur.
Génération de deepfakes audio: Les deepfakes audio impliquent un GAN qui reproduit la voix d'une personne, en construisant un modèle basé sur les schémas vocaux, et en l'utilisant pour manipuler la voix afin de lui faire dire tout ce que l'on souhaite. Cette technique est fréquemment adoptée dans le développement de jeux vidéo.
Synchronisation labiale: Une autre méthode répandue dans la création de deepfakes est la synchronisation labiale, où la technologie aligne un enregistrement vocal avec la vidéo correspondante, créant l'illusion que la personne dans la vidéo prononce les mots enregistrés. Si l'audio lui-même est un deepfake, cela ajoute une couche de tromperie supplémentaire. Cette approche est facilitée par les réseaux de neurones récurrents. Voir aussi: Alejandro Manzo.

Technologies nécessaires pour développer des deepfakes

L'essor de la technologie deepfake est facilité par les progrès de diverses technologies clés: Voir aussi: Alejandro Hernandez.

Les réseaux de neurones GAN constituent l'épine dorsale du développement des deepfakes, utilisant des algorithmes de générateur et de discriminateur. Voir aussi: Alejandro Garza.

Les réseaux de neurones convolutifs (CNN) analysent les motifs des données visuelles, essentiels pour des tâches telles que la reconnaissance faciale et le suivi de mouvement.

Les autoencodeurs, une autre technologie de réseaux de neurones, identifient les attributs pertinents d'une cible, tels que les expressions faciales et les mouvements corporels, et les transfèrent à la vidéo source. Voir aussi: Alejandro Guerrero.

Les algorithmes de traitement du langage naturel (NLP) génèrent de l'audio deepfake en analysant les attributs de la parole et en générant le texte correspondant.

Le calcul haute performance fournit la puissance de calcul substantielle essentielle à la création de deepfakes.

Selon le rapport du Département de la Sécurité intérieure des États-Unis sur la « Menace croissante des identités deepfake », plusieurs outils permettent la génération rapide de deepfakes, notamment Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo et Zao.

Les deepfakes servent à diverses fins

Art: Utilisé pour créer de nouvelles musiques en remixant les œuvres existantes d'un artiste.

Chantage et atteinte à la réputation: Implique de placer une cible dans des scénarios compromettants, tels que des activités illicites ou des actes explicites, pour extorquer ou diffamer.

Services de réponse aux appels: Offre des réponses personnalisées pour le transfert d'appel et les services de réceptionniste.

Support téléphonique client: Utilisation de fausses voix pour des tâches de routine telles que les demandes de renseignements sur les comptes ou les réclamations.

Divertissement: Employé dans les films et les jeux pour manipuler les voix des acteurs ou créer du contenu satirique et parodique.

Fausses preuves: Fabrication d'images ou d'audio trompeurs pour influencer les procédures judiciaires.

Fraude: Usurpation de l'identité d'individus pour obtenir des informations sensibles ou un accès.

Désinformation et manipulation politique: Diffusion de fausses nouvelles pour influencer l'opinion publique ou semer la confusion.

Manipulation boursière: Création de faux documents pour influencer les cours des actions.

Textos: Utilisation future potentielle pour reproduire les styles de textos des utilisateurs, selon le rapport du Département de la Sécurité intérieure des États-Unis sur les identités deepfake.

Les deepfakes sont-ils autorisés par la loi ?

Les deepfakes sont généralement dans les limites de la légalité, ce qui pose des défis aux forces de l'ordre en raison de leurs menaces potentielles. Ils deviennent illégaux lorsqu'ils violent des lois existantes telles que l'exploitation d'enfants, la diffamation ou le discours de haine.

Seuls trois États ont une législation spécifique concernant les deepfakes. Le Texas interdit les deepfakes influençant les élections, la Virginie interdit la diffusion de pornographie deepfake et la Californie restreint les deepfakes politiques à l'approche des élections et la pornographie deepfake non consensuelle.

L'absence de lois complètes découle d'une méconnaissance généralisée de la technologie deepfake et de ses implications, laissant les victimes largement sans protection.

Quels sont les risques associés aux deepfakes ?

Malgré leur statut juridique, les deepfakes présentent des risques importants:

Ils permettent le chantage et l'atteinte à la réputation en plaçant les cibles dans des scénarios compromettants.

Ils facilitent la désinformation politique, exploitée par des acteurs étatiques à des fins malveillantes.

Ils contribuent à l'ingérence électorale en générant de fausses vidéos de candidats.

Ils sont utilisés pour la manipulation boursière, influençant les prix du marché par le biais de contenu falsifié.

Ils alimentent la fraude en usurpant l'identité d'individus pour accéder à des données financières et personnelles.