How does deepfake AI work?

• La IA deepfake utiliza algoritmos avanzados para crear contenido falso convincente, presentando tanto maravillas tecnológicas como amenazas potenciales. Esto plantea la pregunta de cómo funciona la IA deepfake.
• Su legalidad sigue siendo ambigua, ya que solo unos pocos estados tienen regulaciones específicas.
• A pesar de su estatus legal, los deepfakes plantean riesgos sustanciales, incluidos el chantaje, la manipulación política y el fraude, lo que destaca la necesidad urgente de legislación y concienciación integrales.

La IA deepfake denota una forma de inteligencia artificial que crea imágenes, audio y video falsos convincentes. Combinando “deep learning” y “fake” (falso), encapsula tanto la tecnología como el contenido engañoso que genera. Deepfake sustituye a individuos en contenido existente o fabrica escenarios completamente nuevos, retratando acciones o palabras que nunca ocurrieron. El principal peligro de los deepfakes radica en su capacidad para difundir información engañosa que parece auténtica. Ahora exploremos cómo funciona la IA deepfake.

Lea también: ¿Qué generador de voz con IA está usando todo el mundo?

Lea también: IA generativa en la industria farmacéutica

¿Qué es la IA deepfake?

La IA deepfake es un tipo de inteligencia artificial utilizada para fabricar imágenes, audio y videos falsos convincentes. Combina el aprendizaje profundo con la falsificación, transformando contenido fuente existente o generando escenarios completamente nuevos. El término “deepfake” abarca tanto la tecnología como el contenido falso resultante, fusionando los conceptos de aprendizaje profundo y falsificación. Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

Estos deepfakes a menudo implican la alteración de contenido existente, como intercambiar a una persona por otra, o la creación de contenido completamente nuevo que muestra a individuos participando en acciones o declaraciones que nunca hicieron. Notablemente, los deepfakes representan un riesgo significativo debido a su potencial para difundir información falsa bajo la apariencia de fuentes confiables. Por ejemplo, en 2022, surgió un video deepfake del presidente ucraniano Volodymyr Zelenskyy emitiendo una orden de rendición a sus tropas.

Se han planteado preocupaciones sobre el uso indebido de deepfakes en elecciones y propaganda, destacando las graves amenazas que representan. Sin embargo, es importante reconocer que los deepfakes también sirven para fines legítimos en diversas aplicaciones, incluidos los videojuegos, el entretenimiento y el servicio al cliente, como el desvío de llamadas y los servicios de recepcionista. Ver también: Asociación ECHOES.

¿Cómo funciona la IA deepfake?

La tecnología deepfake emplea dos algoritmos clave, a saber, un generador y un discriminador, para producir y mejorar contenido fabricado. Inicialmente, el generador construye un conjunto de datos basado en la salida deseada, generando el contenido digital falso inicial. Posteriormente, el discriminador evalúa la autenticidad del contenido inicial, distinguiendo entre realismo y artificialidad. A través de procesos iterativos, el generador refina su capacidad para generar contenido convincente, mientras que el discriminador mejora su competencia para detectar imperfecciones que el generador debe rectificar. Ver también: IT Department - Athlok.

Esta combinación de algoritmos de generador y discriminador forma una red generativa antagónica (GAN, por sus siglas en inglés). Las GAN utilizan técnicas de aprendizaje profundo para identificar patrones en imágenes auténticas, aprovechando estos patrones para generar contenido sintético. Por ejemplo, en la creación de una fotografía deepfake, una GAN examina varias imágenes del sujeto desde diferentes ángulos para capturar detalles y perspectivas integrales. De manera similar, al desarrollar un video deepfake, la GAN analiza el contenido del video desde múltiples puntos de vista, junto con el escrutinio de señales de comportamiento, movimientos y patrones de habla. Posteriormente, estos datos se someten a múltiples evaluaciones por parte del discriminador para refinar el realismo del producto final.

Los videos deepfake se producen típicamente mediante uno de dos métodos. En primer lugar, pueden utilizar un video original que presenta al individuo objetivo, manipulando el contenido para representar acciones o declaraciones que el individuo nunca realizó realmente. Alternativamente, los videos deepfake pueden implicar sustituir el rostro del individuo objetivo en el metraje de video de otra persona, comúnmente conocido como intercambio de rostros. Ver también: Alejandro Estua.

Existen varios métodos empleados en la creación de deepfakes

Utilización de videos fuente: Un autoencoder deepfake, impulsado por redes neuronales, examina videos fuente para captar atributos significativos del objetivo, como expresiones faciales y lenguaje corporal. Luego integra estos rasgos en el video original utilizando un sistema codificador-decodificador.
Generación de deepfakes de audio: Los deepfakes de audio implican que una GAN reproduzca la voz de una persona, construyendo un modelo basado en patrones vocales y aprovechándolo para manipular la voz para decir lo que se desee. Esta técnica se adopta con frecuencia en el desarrollo de videojuegos.
Sincronización de labios: Otro método frecuente en la creación de deepfakes es la sincronización de labios, donde la tecnología alinea una grabación de voz con el video correspondiente, creando la ilusión de que la persona en el video dice las palabras grabadas. Si el audio en sí es un deepfake, añade una capa adicional de engaño. Este enfoque se facilita mediante redes neuronales recurrentes. Ver también: Alejandro Manzo.

Tecnología necesaria para desarrollar deepfakes

El auge de la tecnología deepfake se ve facilitado por los avances en varias tecnologías clave: Ver también: Alejandro Hernandez.

Las redes neuronales GAN forman la columna vertebral del desarrollo de deepfakes, empleando algoritmos generadores y discriminadores. Ver también: Alejandro Garza.

Las redes neuronales convolucionales (CNN, por sus siglas en inglés) analizan patrones de datos visuales, cruciales para tareas como el reconocimiento facial y el seguimiento de movimiento.

Los autoencoders, otra tecnología de redes neuronales, identifican atributos pertinentes de un objetivo, como expresiones faciales y movimientos corporales, transfiriéndolos al video fuente. Ver también: Alejandro Guerrero.

Los algoritmos de procesamiento del lenguaje natural (NLP, por sus siglas en inglés) generan audio deepfake analizando atributos del habla y generando el texto correspondiente.

La computación de alto rendimiento proporciona la potencia computacional sustancial esencial para la creación de deepfakes.

Según el informe del Departamento de Seguridad Nacional de los EE. UU. sobre la “Creciente amenaza de las identidades deepfake”, varias herramientas permiten la generación rápida de deepfakes, incluidas Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo y Zao.

Los deepfakes sirven para varios propósitos

Arte: Se utiliza para crear nueva música remezclando las obras existentes de un artista.

Chantaje y daño a la reputación: Implica colocar a un objetivo en escenarios comprometedores, como actividades ilícitas o actos explícitos, para extorsionarlo o difamarlo.

Servicios de respuesta de llamadas: Ofrecen respuestas personalizadas para el desvío de llamadas y servicios de recepcionista.

Soporte telefónico al cliente: Uso de voces falsas para tareas rutinarias como consultas de cuentas o quejas.

Entretenimiento: Se emplea en películas y juegos para manipular las voces de los actores o crear contenido de sátira y parodia.

Evidencia falsa: Fabricar imágenes o audio engañosos para influir en los procedimientos legales.

Fraude: Suplantar a individuos para obtener información confidencial o acceso.

Desinformación y manipulación política: Difundir noticias falsas para influir en la opinión pública o sembrar confusión.

Manipulación de acciones: Crear materiales falsos para impactar los precios de las acciones.

Mensajería de texto: Posible uso futuro para replicar los estilos de mensajes de texto de los usuarios, según el informe del Departamento de Seguridad Nacional de los EE. UU. sobre identidades deepfake.

¿Son los deepfakes permisibles ante la ley?

Los deepfakes generalmente están dentro de los límites legales, presentando desafíos para las fuerzas del orden debido a sus amenazas potenciales. Se vuelven ilegales cuando violan leyes existentes como la explotación infantil, la difamación o el discurso de odio.

Solo tres estados tienen legislación específica sobre deepfakes. Texas prohíbe los deepfakes que influyen en las elecciones, Virginia prohíbe la difusión de pornografía deepfake y California restringe los deepfakes políticos cerca de las elecciones y la pornografía deepfake no consensuada.

La ausencia de leyes integrales se debe al desconocimiento generalizado de la tecnología deepfake y sus implicaciones, lo que deja a las víctimas en gran medida desprotegidas.

¿Cuáles son los riesgos asociados con los deepfakes?

A pesar de su estatus legal, los deepfakes plantean riesgos significativos:

Permiten el chantaje y el daño a la reputación al colocar a los objetivos en escenarios comprometedores.

Facilitan la desinformación política, explotada por actores estatales para fines maliciosos.

Contribuyen a la interferencia electoral generando videos falsos de candidatos.

Se utilizan para la manipulación de acciones, influyendo en los precios del mercado mediante contenido falsificado.

Alimentan el fraude al suplantar a individuos para acceder a datos financieros y personales.