Como funciona a IA de deepfake?

Como funciona a IA de deepfake? é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• A IA de deepfake utiliza algoritmos avançados para criar conteúdo falso convincente, apresentando tanto maravilhas tecnológicas quanto ameaças potenciais. Isso levanta a questão: como a IA de deepfake funciona.
• Sua legalidade permanece ambígua, com apenas alguns estados tendo regulamentações específicas.
• Apesar de seu status legal, os deepfakes representam riscos substanciais, incluindo chantagem, manipulação política e fraude, destacando a necessidade urgente de legislação abrangente e conscientização.

A IA de deepfake denota uma forma de inteligência artificial que cria imagens, áudio e vídeo falsos convincentes. Unindo “deep learning” e “fake”, ela encapsula tanto a tecnologia quanto o conteúdo enganoso que gera. Deepfake substitui pessoas em conteúdo existente ou fabrica cenários completamente novos, retratando ações ou palavras que nunca ocorreram. O perigo principal dos deepfakes reside na sua capacidade de disseminar informações enganosas que parecem autênticas. Agora vamos explorar como a IA de deepfake funciona.

Leia também:Qual gerador de voz por IA todo mundo está usando?

Leia também:IA generativa na indústria farmacêutica

O que é IA de deepfake?

A IA de deepfake é um tipo de inteligência artificial usada para fabricar imagens, áudio e vídeos falsos convincentes. Ela combina deep learning com falsificação, transformando conteúdo de origem existente ou gerando cenários totalmente novos. O termo “deepfake” abrange tanto a tecnologia quanto o conteúdo falso resultante, unindo os conceitos de deep learning e falsificação.

Esses deepfakes geralmente envolvem a alteração de conteúdo existente, como trocar uma pessoa por outra, ou a criação de conteúdo completamente novo mostrando pessoas realizando ações ou declarações que nunca fizeram. Notavelmente, os deepfakes representam um risco significativo devido ao seu potencial de disseminar informações falsas sob o disfarce de fontes confiáveis. Por exemplo, em 2022, um vídeo deepfake surgiu mostrando o presidente ucranianoVolodymyr Zelenskyyemitindo uma ordem de rendição às suas tropas.

Preocupações foram levantadas sobre o uso indevido de deepfakes em eleições e propaganda, destacando as sérias ameaças que representam. No entanto, é importante reconhecer que os deepfakes também servem a propósitos legítimos em várias aplicações, incluindo videogames, entretenimento e atendimento ao cliente, como serviços de encaminhamento de chamadas e recepção.

Como funciona a IA de deepfake?

A tecnologia de deepfake emprega dois algoritmos principais, um gerador e um discriminador, para produzir e aprimorar conteúdo fabricado. Inicialmente, o gerador constrói um conjunto de dados com base na saída desejada, gerando o conteúdo digital falso inicial. Em seguida, o discriminador avalia a autenticidade do conteúdo inicial, distinguindo entre realismo e artificialidade. Através de processos iterativos, o gerador refina sua capacidade de gerar conteúdo convincente, enquanto o discriminador aprimora sua proficiência em detectar imperfeições para o gerador corrigir.

Essa combinação de algoritmos gerador e discriminador forma umarede adversarial generativa (GAN). As GANs utilizam técnicas de deep learning para identificar padrões em imagens autênticas, aproveitando esses padrões para gerar conteúdo sintético. Por exemplo, na criação de uma fotografia deepfake, uma GAN examina várias imagens do sujeito de diferentes ângulos para capturar detalhes e perspectivas abrangentes. Da mesma forma, no desenvolvimento de um vídeo deepfake, a GAN analisa o conteúdo do vídeo de múltiplos pontos de vista, além de examinar pistas comportamentais, movimentos e padrões de fala. Posteriormente, esses dados passam por múltiplas avaliações do discriminador para refinar o realismo do resultado final.

Os vídeos deepfake são tipicamente produzidos por um de dois métodos. Primeiro, podem utilizar um vídeo original da pessoa alvo, manipulando o conteúdo para mostrar ações ou declarações que a pessoa nunca realizou. Alternativamente, os vídeos deepfake podem envolver a substituição do rosto da pessoa alvo no vídeo de outra pessoa, comumente chamado de troca de rosto.

Existem vários métodos usados na criação de deepfakes

Uso de vídeos de origem: Um autoencoder deepfake, impulsionado por redes neurais, examina vídeos de origem para capturar atributos significativos do alvo, como expressões faciais e linguagem corporal. Ele então integra essas características ao vídeo original usando um sistema codificador-decodificador.
Geração de deepfakes de áudio: Deepfakes de áudio envolvem uma GAN replicando a voz de uma pessoa, construindo um modelo baseado em padrões vocais e usando-o para manipular a voz para dizer o que quiser. Essa técnica é frequentemente adotada no desenvolvimento de videogames.
Sincronização labial: Outro método prevalente na criação de deepfakes é a sincronização labial, onde a tecnologia alinha uma gravação de voz com o vídeo correspondente, criando a ilusão de que a pessoa no vídeo está falando as palavras gravadas. Se o áudio em si for um deepfake, adiciona uma camada extra de engano. Essa abordagem é facilitada por redes neurais recorrentes.

Tecnologia necessária para desenvolver deepfakes

O avanço da tecnologia de deepfake é facilitado por avanços em várias tecnologias-chave:

As redes neurais GAN formam a espinha dorsal do desenvolvimento de deepfakes, empregando algoritmos gerador e discriminador.

Redes neurais convolucionais (CNNs)analisam padrões de dados visuais, cruciais para tarefas como reconhecimento facial e rastreamento de movimento.

Autoencoders, outra tecnologia de rede neural, identificam atributos pertinentes de um alvo, como expressões faciais e movimentos corporais, transferindo-os para o vídeo de origem.

Algoritmos de processamento de linguagem natural (PLN)geram deepfakes de áudio analisando atributos da fala e gerando texto correspondente.

A computação de alto desempenho fornece o poder computacional substancial essencial para a criação de deepfakes.

De acordo com o relatório do Departamento de Segurança Interna dos EUA sobre a “Ameaça Crescente de Identidades Deepfake”, várias ferramentas permitem a geração rápida de deepfakes, incluindo Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo e Zao.

Deepfakes servem a vários propósitos

Arte: Usado para criar nova música remixando obras existentes de um artista.

Chantagem e danos à reputação: Envolvendo colocar um alvo em cenários comprometedores, como atividades ilícitas ou atos explícitos, para extorquir ou difamá-lo.

Serviços de resposta de chamadas: Oferecendo respostas personalizadas para serviços de encaminhamento de chamadas e recepção.

Suporte telefônico ao cliente: Utilizando vozes falsas para tarefas rotineiras como consultas de conta ou reclamações.

Entretenimento: Empregado em filmes e jogos para manipular vozes de atores ou criar conteúdo de sátira e paródia.

Falsas evidências: Fabricando imagens ou áudio enganosos para influenciar processos legais.

Fraude: Personificando indivíduos para obter informações ou acesso sensíveis.

Desinformação e manipulação política: Espalhando notícias falsas para influenciar a opinião pública ou semear confusão.

Manipulação de ações: Criando materiais falsos para impactar preços de ações.

Mensagens de texto: Potencial uso futuro para replicar estilos de texto de usuários, de acordo com o relatório do Departamento de Segurança Interna dos EUA sobre identidades deepfake.

Os deepfakes são permitidos por lei?

Os deepfakes geralmente estão dentro dos limites legais, apresentando desafios para a aplicação da lei devido às suas ameaças potenciais. Eles se tornam ilegais quando violam leis existentes, como exploração infantil, difamação ou discurso de ódio.

Apenas três estados têm legislação específica sobre deepfakes. O Texas proíbe deepfakes que influenciam eleições, a Virgínia proíbe a disseminação de pornografia deepfake e a Califórnia restringe deepfakes políticos próximos a eleições e pornografia deepfake não consensual.

A ausência de leis abrangentes decorre da falta de familiaridade generalizada com a tecnologia deepfake e suas implicações, deixando as vítimas em grande parte desprotegidas.

Quais são os riscos associados aos deepfakes?

Apesar de seu status legal, os deepfakes representam riscos significativos:

Eles permitem chantagem e danos à reputação, colocando alvos em cenários comprometedores.

Eles facilitam a desinformação política, explorada por atores estatais para fins maliciosos.

Eles contribuem para a interferência eleitoral, gerando vídeos falsos de candidatos.

Eles são utilizados para manipulação de ações, influenciando preços de mercado por meio de conteúdo falsificado.

Eles alimentam fraudes, personificando indivíduos para acessar dados financeiros e pessoais.