Deepfake AI é ilegal?

Is deepfake AI illegal? é perfilado pela BTW Media porque evidências publicadas o vinculam a infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Deepfake e IA são duas coisas diferentes, mas têm certas conexões, resultando na mistura das duas palavras. O deepfake pode ser visto como uma aplicação e prática da IA generativa.
• Deepfake é um amálgama de "aprendizado profundo" (deep learning) e "falso" (fake), que se refere a uma técnica que utiliza aprendizado profundo para síntese de imagens para criar vídeos falsificados. Também pode se referir a imagens geradas por computador de pessoas que não existem na vida real.
• Desde que o limiar técnico das aplicações de deepfake foi reduzido, enquanto os produtos de deepfake se tornaram mais semelhantes aos genuínos, algumas empresas de tecnologia começaram a desenvolver a detecção de deepfake, usando IA para combater IA.

Deepfake se refere a uma técnica que utiliza aprendizado profundo para síntese de imagens para criar vídeos falsificados. A legalidade dos deepfakes pode variar dependendo do seu uso e da jurisdição.

O que é conteúdo deepfake?

Deepfake é um amálgama de "aprendizado profundo" e "falso", que se refere a uma técnica que utiliza aprendizado profundo para síntese de imagens para criar vídeos falsificados. Também pode se referir a imagens geradas por computador de pessoas que não existem na vida real.

Embora o ato de criar conteúdo falso não seja novo, a falsificação profunda utiliza ferramentas e técnicas de aprendizado de máquina e IA, incluindo algoritmos de reconhecimento facial e redes neurais artificiais, comoautoencoders variacionais (VAE)eredes adversariais generativas (GANs).

Leia também:O que são deepfakes na IA?

Portanto, deepfake e IA são duas coisas diferentes, mas têm certas conexões, resultando na mistura das duas palavras. O deepfake pode ser visto como uma aplicação e prática da IA generativa.

Armadilhas legais do conteúdodeepfake

A legalidade dos deepfakes pode variar dependendo do seu uso e da jurisdição. Em muitos lugares, criar e compartilhar deepfakes sem consentimento para fins maliciosos, como difamação, assédio ou fraude, pode ser ilegal e pode estar sujeito a penalidades civis ou criminais.

No entanto, o uso da tecnologia deepfake para paródia, sátira, expressão artística ou outros fins não maliciosos pode ser protegido pelas leis de liberdade de expressão. É essencial entender e cumprir as leis e diretrizes éticas relevantes ao lidar com a tecnologia deepfake.

À medida que a técnica se torna cada vez mais sofisticada, é possível facilmente substituir uma pessoa em um vídeo existente pela semelhança de outra pessoa, até mesmo com o rosto de um animal, ou manipular os formatos da boca de uma pessoa, tudo o que você precisa é de um smartphone e um aplicativo móvel. Essas imagens e vídeos fabricados parecem ser reais.

O deepfake tem recebido ampla atenção por seu potencial uso na produção de material de abuso sexual infantil, vídeos pornográficos de celebridades, pornografia de vingança, notícias falsas, boatos, bullying e fraude financeira.

A disseminação de desinformação e discurso de ódio por meio de deepfakes pode minar as funções e normas essenciais das instituições democráticas, interferindo na capacidade das pessoas de participar das decisões que as afetam e determinar agendas e decisões coletivas.

O deepfake expandiu sua aplicação para sons. Hoje em dia, com a tecnologia de IA, sua voz pode ser imitada para criar diferentes conversas capturando sua voz em 5 segundos. Com imagens e sons deepfake, é possível fabricar vídeos que nunca existiram.

Leia também:Vídeo: Deepfakes de Taylor Swift geram debate sobre ética na IA

Desde que o limiar técnico das aplicações de deepfake foi reduzido, enquanto os produtos de deepfake se tornaram mais semelhantes aos genuínos, algumas empresas de tecnologia começaram a desenvolver a detecção de deepfake, usando IA para combater IA.

Alguns países estão considerando abordagens legislativas e regulatórias para lidar com as preocupações éticas e legais trazidas pelo deepfake. E o campo da perícia forense de imagens, por sua vez, desenvolveu técnicas para detectar imagens manipuladas.