• Deepfake e IA son dos cosas diferentes, pero tienen ciertas conexiones, lo que resulta en la mezcla de las dos palabras. Deepfake puede verse como una aplicación y práctica de la IA generativa.
  • Deepfake es un acrónimo de “deep learning” (aprendizaje profundo) y “fake” (falso), que se refiere a una técnica que utiliza el aprendizaje profundo para la síntesis de imágenes y crear videos falsificados. También puede referirse a imágenes generadas por computadora de sujetos humanos que no existen en la vida real.
  • Dado que el umbral técnico de las aplicaciones deepfake se ha reducido, mientras que los productos deepfake se han vuelto más similares a los genuinos, algunas empresas tecnológicas han comenzado a desarrollar detección de deepfake, utilizando IA para luchar contra la IA.

Deepfake se refiere a una técnica que utiliza el aprendizaje profundo para la síntesis de imágenes y crear videos falsificados. La legalidad de los deepfakes puede variar según su uso y la jurisdicción.

¿Qué es el contenido deepfake?

Deepfake es un acrónimo de “deep learning” (aprendizaje profundo) y “fake” (falso), que se refiere a una técnica que utiliza el aprendizaje profundo para la síntesis de imágenes y crear videos falsificados. También puede referirse a imágenes generadas por computadora de sujetos humanos que no existen en la vida real.

Aunque el acto de crear contenido falso no es nuevo, la falsificación profunda utiliza herramientas y técnicas del aprendizaje automático y la IA, incluidos algoritmos de reconocimiento facial y redes neuronales artificiales como losautoencoders variacionales (VAE)y lasredes generativas adversariales (GAN).

Lea también:¿Qué son los deepfakes en la IA?

Por lo tanto, deepfake e IA son dos cosas diferentes, pero tienen ciertas conexiones, lo que resulta en la mezcla de las dos palabras. Deepfake puede verse como una aplicación y práctica de la IA generativa.

Riesgos legales del deepfakecontenido

La legalidad de los deepfakes puede variar según su uso y la jurisdicción. En muchos lugares, crear y compartir deepfakes sin consentimiento con fines maliciosos, como difamación, acoso o fraude, puede ser ilegal y estar sujeto a sanciones civiles o penales.

Sin embargo, el uso de la tecnología deepfake con fines de parodia, sátira, expresión artística u otros fines no maliciosos puede estar protegido por las leyes de libertad de expresión. Es esencial comprender y cumplir con las leyes y directrices éticas pertinentes al tratar con tecnología deepfake.

A medida que la técnica se vuelve cada vez más sofisticada, uno puede reemplazar fácilmente a una persona en un video existente con la apariencia de otra persona, incluso con la cara de un animal, o manipular la forma de la boca de una persona; todo lo que se necesita es un teléfono inteligente y una aplicación móvil. Esas imágenes y videos fabricados parecen ser reales.

Deepfake ha recibido una atención generalizada por su posible uso en la producción de material de abuso sexual infantil, videos pornográficos de celebridades, porno de venganza, noticias falsas, engaños, acoso y fraude financiero.

La propagación de la desinformación y el discurso de odio a través de deepfakes puede socavar las funciones y normas básicas de las instituciones democráticas al interferir con la capacidad de las personas para participar en decisiones que les afectan y determinar agendas y decisiones colectivas.

Deepfake extendió su aplicación a los sonidos. Hoy en día, con la tecnología de IA, tu voz puede ser imitada para crear diferentes conversaciones capturando tu voz en 5 segundos. Con imágenes y sonidos deepfake, se pueden fabricar videos que nunca existieron.

Lea también:Video: Los deepfakes de Taylor Swift generan debate sobre la ética de la IA

Dado que el umbral técnico de las aplicaciones deepfake se ha reducido, mientras que los productos deepfake se han vuelto más similares a los genuinos, algunas empresas tecnológicas han comenzado a desarrollar detección de deepfake, utilizando IA para luchar contra la IA.

Algunos países están considerando enfoques legislativos y regulatorios para abordar las preocupaciones éticas y legales que plantea el deepfake. Y el campo de la ciencia forense de imágenes ha desarrollado a su vez técnicas para detectar imágenes manipuladas.