• Deepfake e IA são duas coisas diferentes, mas têm certas conexões, o que leva a uma confusão entre os dois termos. O deepfake pode ser considerado uma aplicação e uma prática da IA generativa.
  • Deepfake é uma palavra-valise composta de “deep learning” e “fake”, que se refere a uma técnica que utiliza aprendizado profundo para síntese de imagens com o objetivo de criar vídeos falsos. Também pode se referir a imagens de seres humanos geradas por computador que não existem na vida real.
  • Com a redução da barreira técnica para aplicações de deepfake, enquanto os produtos de deepfake se tornaram mais semelhantes aos reais, algumas empresas de tecnologia começaram a desenvolver ferramentas de detecção de deepfake, usando IA para combater IA.

Deepfake se refere a uma técnica que utiliza aprendizado profundo para síntese de imagens com o objetivo de criar vídeos falsos. A legalidade dos deepfakes pode variar dependendo de seu uso e da jurisdição.

O que é o conteúdo deepfake?

Deepfake é uma palavra-valise composta de “deep learning” e “fake”, que se refere a uma técnica que utiliza aprendizado profundo para síntese de imagens com o objetivo de criar vídeos falsos. Também pode se referir a imagens de seres humanos geradas por computador que não existem na vida real.

Embora a criação de conteúdo falso não seja nova, a deepfake utiliza ferramentas e técnicas de aprendizado de máquina e IA, incluindo algoritmos de reconhecimento facial e redes neurais artificiais, como osautoencoders variacionais (VAE)e asredes adversárias generativas (GAN).

Leia também:O que são deepfakes em IA?

Portanto, deepfake e IA são duas coisas diferentes, mas têm certas conexões, o que leva a uma confusão entre os dois termos. O deepfake pode ser considerado uma aplicação e uma prática da IA generativa.

Riscos jurídicos do deepfakeconteúdo

A legalidade dos deepfakes pode variar dependendo de seu uso e da jurisdição. Em muitos lugares, criar e compartilhar deepfakes sem consentimento para fins maliciosos, como difamação, assédio ou fraude, pode ser ilegal e sujeito a sanções civis ou criminais.

No entanto, o uso da tecnologia deepfake para fins de paródia, sátira, expressão artística ou outros fins não maliciosos pode ser protegido pelas leis de liberdade de expressão. É essencial compreender e respeitar as leis e diretrizes éticas aplicáveis ao lidar com a tecnologia deepfake.

À medida que a técnica se torna mais sofisticada, é possível substituir facilmente uma pessoa em um vídeo existente pelo rosto de outra pessoa, ou até mesmo por um rosto de animal, ou manipular a forma da boca de uma pessoa; basta um smartphone e um aplicativo móvel. Essas imagens e vídeos fabricados parecem reais.

O deepfake atraiu ampla atenção por seu uso potencial na produção de material de abuso sexual infantil, vídeos pornográficos de celebridades, pornografia de vingança, notícias falsas, fraudes, assédio e fraude financeira.

A propagação de desinformação e discurso de ódio por meio de deepfakes pode minar as funções e normas fundamentais das instituições democráticas, interferindo na capacidade das pessoas de participar das decisões que as afetam e de determinar agendas e decisões coletivas.

O deepfake estendeu sua aplicação aos sons. Hoje em dia, com a tecnologia de IA, sua voz pode ser imitada para criar diferentes conversas capturando sua voz em 5 segundos. Com imagens e sons deepfake, é possível fabricar vídeos que nunca existiram.

Leia também:Vídeo: Deepfakes de Taylor Swift geram debate sobre ética em IA

Com a redução do limiar técnico das aplicações de deepfake, enquanto os produtos de deepfake se tornaram mais semelhantes aos reais, algumas empresas de tecnologia começaram a desenvolver ferramentas de detecção de deepfake, usando IA para combater IA.

Alguns países estão considerando abordagens legislativas e regulatórias para lidar com as preocupações éticas e legais levantadas pelo deepfake. E a área de perícia de imagens, por sua vez, desenvolveu técnicas para detectar imagens manipuladas.