• A IA deepfake usa algoritmos avançados para criar conteúdo falso convincente, apresentando tanto maravilhas tecnológicas quanto ameaças potenciais. Isso levanta a questão de como funciona.
  • Sua legalidade permanece ambígua, com apenas alguns estados tendo regulamentações específicas.
  • Apesar de seu status legal, os deepfakes apresentam riscos significativos, incluindo chantagem, manipulação política e fraude, destacando a necessidade urgente de legislação abrangente e conscientização.

IA deepfake refere-se a uma forma de inteligência artificial que cria imagens, arquivos de áudio e vídeos falsos convincentes. Fundindo « deep learning » (aprendizado profundo) e « fake » (falso), ela abrange tanto a tecnologia quanto o conteúdo enganoso que gera. Os deepfakes substituem indivíduos em conteúdo existente ou criam cenários inteiramente novos, mostrando ações ou falas que nunca aconteceram. O principal perigo dos deepfakes está na capacidade de espalhar informações enganosas que parecem autênticas. Vejamos agora como funciona a IA deepfake.

Leia também:Qual gerador de voz de IA todo mundo está usando?

Leia também:IA generativa na indústria farmacêutica

O que é IA deepfake?

A IA deepfake é um tipo de inteligência artificial usada para criar falsificações convincentes na forma de imagens, arquivos de áudio e vídeos. Ela combina aprendizado profundo e falsificação, transformando conteúdo de origem existente ou gerando cenários inteiramente novos. O termo «deepfake» abrange tanto a tecnologia quanto o conteúdo falsificado resultante, fundindo os conceitos de aprendizado profundo e falsificação.

Esses deepfakes geralmente envolvem a modificação de conteúdo existente, como substituir uma pessoa por outra, ou a criação de conteúdo inteiramente novo mostrando indivíduos realizando ações ou dizendo palavras que nunca fizeram. Notavelmente, os deepfakes apresentam um risco significativo devido ao seu potencial de espalhar informações falsas sob o disfarce de fontes confiáveis. Por exemplo, em 2022, um vídeo deepfake surgiu mostrando o presidente ucranianoVolodymyr Zelenskyydando uma ordem de rendição às suas tropas.

Preocupações foram levantadas sobre o uso indevido de deepfakes em eleições e propaganda, destacando as sérias ameaças que representam. No entanto, é importante reconhecer que os deepfakes também servem a propósitos legítimos em diversas aplicações, incluindo jogos eletrônicos, entretenimento e atendimento ao cliente, como transferência de chamadas e serviços de recepcionista.

Como funciona a IA deepfake?

A tecnologia deepfake usa dois algoritmos-chave, um gerador e um discriminador, para produzir e aprimorar conteúdo fabricado. Inicialmente, o gerador constrói um conjunto de dados com base no resultado desejado, gerando o primeiro conteúdo digital falso. Em seguida, o discriminador avalia a autenticidade do conteúdo inicial, distinguindo entre realismo e artificialidade. Através de processos iterativos, o gerador refina sua capacidade de gerar conteúdo convincente, enquanto o discriminador melhora sua capacidade de detectar imperfeições que o gerador deve corrigir.

Essa combinação de algoritmos de gerador e discriminador forma umarede adversária generativa (GAN). As GANs usam técnicas de aprendizado profundo para identificar padrões em imagens autênticas, explorando esses padrões para gerar conteúdo sintético. Por exemplo, ao criar uma fotografia deepfake, uma GAN examina várias imagens do sujeito de diferentes ângulos para capturar detalhes e perspectivas completos. Da mesma forma, ao desenvolver um vídeo deepfake, a GAN analisa o conteúdo de vídeo de vários pontos de vista, enquanto examina pistas comportamentais, movimentos e padrões de fala. Em seguida, esses dados são submetidos a múltiplas avaliações pelo discriminador para refinar o realismo do resultado final.

Os vídeos deepfake geralmente são produzidos por um dos dois métodos a seguir. Primeiro, eles podem usar um vídeo original mostrando o indivíduo alvo, manipulando o conteúdo para mostrar ações ou declarações que o indivíduo nunca realmente realizou. Alternativamente, os vídeos deepfake podem envolver a substituição do rosto do indivíduo alvo na sequência de vídeo de outro indivíduo, o que é comumente chamado de troca de rostos.

Existem vários métodos usados para criar deepfakes

Uso de vídeos fonte: Um autoencoder deepfake, impulsionado por redes neurais, examina os vídeos fonte para capturar os atributos significativos do alvo, como expressões faciais e linguagem corporal. Em seguida, incorpora essas características no vídeo original usando um sistema codificador-decodificador.
Geração de deepfakes de áudio: Os deepfakes de áudio envolvem uma GAN que reproduz a voz de uma pessoa, construindo um modelo baseado nos padrões de fala e usando-o para manipular a voz para dizer o que se deseja. Essa técnica é frequentemente adotada no desenvolvimento de jogos eletrônicos.
Sincronização labial: Outro método comum na criação de deepfakes é a sincronização labial, onde a tecnologia alinha uma gravação de fala com o vídeo correspondente, criando a ilusão de que a pessoa no vídeo está dizendo as palavras gravadas. Se o áudio em si for um deepfake, isso adiciona uma camada extra de engano. Essa abordagem é facilitada por redes neurais recorrentes.

Tecnologias necessárias para desenvolver deepfakes

A ascensão da tecnologia deepfake é facilitada pelos avanços em várias tecnologias-chave:

As redes neurais GAN constituem a espinha dorsal do desenvolvimento de deepfakes, usando algoritmos de gerador e discriminador.

Osredes neurais convolucionais (CNN)analisam padrões em dados visuais, essenciais para tarefas como reconhecimento facial e rastreamento de movimento.

Os autoencoders, outra tecnologia de redes neurais, identificam atributos relevantes de um alvo, como expressões faciais e movimentos corporais, e os transferem para o vídeo fonte.

Algoritmos deprocessamento de linguagem natural (NLP)geram áudio deepfake analisando atributos da fala e gerando o texto correspondente.

A computação de alto desempenho fornece o poder computacional substancial essencial para a criação de deepfakes.

De acordo com o relatório do Departamento de Segurança Interna dos Estados Unidos sobre a « Ameaça crescente das identidades deepfake », várias ferramentas permitem a geração rápida de deepfakes, incluindo Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo e Zao.

Os deepfakes servem a vários propósitos

Arte: Usado para criar novas músicas remixando obras existentes de um artista.

Chantagem e danos à reputação: Envolve colocar um alvo em cenários comprometedores, como atividades ilícitas ou atos explícitos, para extorquir ou difamar.

Serviços de atendimento de chamadas: Oferece respostas personalizadas para transferência de chamadas e serviços de recepcionista.

Suporte telefônico ao cliente: Uso de vozes falsas para tarefas rotineiras, como consultas de conta ou reclamações.

Entretenimento: Empregado em filmes e jogos para manipular vozes de atores ou criar conteúdo satírico e de paródia.

Falsas provas: Fabricação de imagens ou áudio enganosos para influenciar procedimentos legais.

Fraude: Falsificação de identidade de indivíduos para obter informações sensíveis ou acesso.

Desinformação e manipulação política: Espalhar notícias falsas para influenciar a opinião pública ou causar confusão.

Manipulação do mercado de ações: Criação de documentos falsos para influenciar preços de ações.

Textos: Potencial uso futuro para reproduzir estilos de texto de usuários, de acordo com o relatório do Departamento de Segurança Interna dos Estados Unidos sobre identidades deepfake.

Os deepfakes são permitidos por lei?

Os deepfakes geralmente estão dentro dos limites da legalidade, o que representa desafios para as forças de segurança devido às suas ameaças potenciais. Eles se tornam ilegais quando violam leis existentes, como exploração infantil, difamação ou discurso de ódio.

Apenas três estados possuem legislação específica sobre deepfakes. O Texas proíbe deepfakes que influenciam eleições, a Virgínia proíbe a disseminação de pornografia deepfake e a Califórnia restringe deepfakes políticos próximos a eleições e pornografia deepfake não consensual.

A ausência de leis abrangentes decorre de um desconhecimento generalizado da tecnologia deepfake e de suas implicações, deixando as vítimas amplamente desprotegidas.

Quais são os riscos associados aos deepfakes?

Apesar de seu status legal, os deepfakes apresentam riscos significativos:

Eles permitem chantagem e danos à reputação, colocando alvos em cenários comprometedores.

Eles facilitam a desinformação política, explorada por atores estatais para fins maliciosos.

Eles contribuem para a interferência eleitoral, gerando vídeos falsos de candidatos.

Eles são usados para manipulação do mercado de ações, influenciando preços de mercado através de conteúdo falsificado.

Eles alimentam fraudes, usurpando a identidade de indivíduos para acessar dados financeiros e pessoais.