Desmascarando ilusões deepfake e se protegendo contra enganos

Desmascarando ilusões deepfake e se protegendo contra enganos é perfilado pelo BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Deepfakes fabricam de forma convincente áudios, vídeos ou imagens enganosos, combinando técnicas de deep learning com criação de conteúdo falsificado.
• Embora tenham usos no entretenimento e atendimento ao cliente, suas aplicações mais sombrias incluem espalhar informações falsas e facilitar fraudes de identidade.
• A constante corrida armamentista contra deepfakes impulsiona o desenvolvimento de ferramentas de detecção como Sentinel e Sensity AI, bem como iniciativas colaborativas como a C2PA.

Deepfakes, alimentados por IA, fabricam de forma convincente áudios, vídeos ou imagens enganosos, gerando preocupações duais: desde aplicações benignas no entretenimento até usos sinistros como espalhar desinformação e facilitar fraudes de identidade. Para combater essa ameaça, ferramentas de detecção como Sentinel e Sensity AI estão surgindo, junto com iniciativas como a C2PA.

O que é a IA de deepfake?

A IA de deepfake é uma forma de inteligência artificial utilizada para produzir imagens, áudios e vídeos enganosos convincentes. O termo abrange tanto a tecnologia em si quanto o conteúdo enganoso resultante, e é uma combinação de deep learning e fake.

Deepfakes geralmente manipulam material de origem existente, substituindo uma pessoa por outra. Eles também geram conteúdo totalmente novo retratando indivíduos realizando ações ou dizendo palavras que nunca realmente fizeram.

A principal preocupação em torno dos deepfakes é seu potencial de disseminar informações falsas que parecem se originar de fontes confiáveis. Por exemplo, em 2022, um vídeo deepfake surgiu mostrando o presidente ucraniano Volodymyr Zelenskyy supostamente exortando suas tropas a se renderem.

Também há preocupações quanto à potencial interferência em eleições e à propagação de propaganda eleitoral. “Consultores políticos, campanhas, candidatos e até mesmo membros do público em geral estão avançando no uso da tecnologia sem entender completamente como ela funciona ou, mais importante, todos os danos potenciais que pode causar”, disse Carah Ong Whaley, oficial de programa acadêmico do UVA Centre for Politics.

“Estou especialmente preocupada com o uso de IA para manipulação de eleitores – não apenas por meio de deepfakes, mas através da capacidade da IA generativa de ser um microtargeting turbinado por meio de campanhas de texto e e-mail”, disse ela.

Consultores políticos, campanhas, candidatos e até mesmo membros do público em geral estão avançando no uso da tecnologia sem entender completamente como ela funciona ou, mais importante, todos os danos potenciais que pode causar.

Carah Ong Whaley, oficial de programa acadêmico do UVA Centre for Politics

Apesar dos riscos significativos associados aos deepfakes, eles também possuem aplicações legítimas, como em áudio de videogames e entretenimento, bem como em sistemas de suporte ao cliente e resposta a chamadas, como serviços de encaminhamento de chamadas e recepcionista.

Leia também:A deepfake é IA generativa?

Aplicações da tecnologia deepfake

Aplicações negativas

Chantagem e danos à reputação:Isso ocorre quando uma imagem alvo é colocada em um cenário ilegal, inadequado ou comprometedor, como enganar o público, participar de atividades sexuais explícitas ou consumir drogas. Esses vídeos são usados para coagir uma vítima, manchar a reputação de um indivíduo, buscar vingança ou praticar cyberbullying. A forma predominante de chantagem ou vingança é a pornografia deepfake não consensual, comumente chamada de revenge porn. Em 2019, um software chamado DeepNude foi desenvolvido, capaz de renderizar uma mulher nua com um clique, e rapidamente se espalhou viralmente com intenção maliciosa, especialmente para assediar mulheres.

Falsas evidências:Imagens ou áudios deepfake fabricados podem ser apresentados como evidências em processos legais, implicando falsamente indivíduos ou exonerando-os de irregularidades.

Fraude:Deepfakes são usados para se passar por indivíduos, muitas vezes com o objetivo de obter informações pessoais sensíveis, como detalhes bancários ou números de cartão de crédito. Essa suplantação pode se estender a executivos de alto escalão ou funcionários com acesso a dados confidenciais, representando ameaças significativas à segurança cibernética.

E de acordo com a IEEE Spectrum, “A fraude de identidade foi a principal preocupação em relação aos deepfakes para mais de três quartos dos entrevistados em uma pesquisa da indústria de segurança cibernética realizada pela empresa de biometria iProov.”

Desinformação e manipulação política:Vídeos deepfake de políticos ou figuras confiáveis são usados para manipular a opinião pública e semear confusão, muitas vezes contribuindo para a disseminação de fake news. Quase todos os líderes mundiais, incluindo Barack Obama, ex-presidente dos EUA, Donald Trump, presidente em exercício dos EUA, Nancy Pelosi, política dos EUA, Angela Merkel, chanceler alemã, foram explorados por vídeos falsos de alguma forma, e até mesmo o fundador do Facebook, Mark Zuckerberg, enfrentou uma ocorrência semelhante. Exemplos como o vídeo deepfake envolvendo o presidente ucraniano Volodymyr Zelenskyy exemplificam o potencial dos deepfakes para exacerbar conflitos e desestabilizar situações.

Manipulação de ações:Conteúdo deepfake forjado pode influenciar os preços das ações, com vídeos falsos mostrando executivos fazendo declarações prejudiciais sobre suas empresas, levando à desvalorização das ações. Por outro lado, vídeos fabricados promovendo avanços tecnológicos ou lançamentos de produtos podem inflacionar artificialmente os valores das ações.

Quiz rápido

Como os vídeos deepfake de políticos ou figuras confiáveis contribuem para a desinformação?
A. Fornecendo informações precisas ao público
B. Manipulando a opinião pública e semeando confusão
C. Expondo a corrupção política
D. Promovendo transparência no governo

A resposta correta está no final do artigo.

Aplicações positivas

Arte:Deepfakes são utilizados para gerar novas composições musicais usando gravações existentes do trabalho de artistas, possibilitando abordagens inovadoras para criação e remixagem musical. E a tecnologia deepfake democratizou a criação de obras de arte, tornando-a acessível a uma gama maior de pessoas. Ela permite que artistas produzam peças inovadoras, cativando o público com experiências únicas. Por exemplo, o Museu Dalí em St. Petersburg, Flórida, utilizou a tecnologia Deepfake para dar vida a Salvador Dalí, permitindo que os visitantes interagissem com o renomado artista por meio de inteligência artificial.

Marketing digital:A tecnologia deepfake é cada vez mais empregada em estratégias de marketing digital para criar conteúdo envolvente e imersivo. Ao aproveitar deepfakes, os profissionais de marketing podem desenvolver anúncios altamente personalizados e materiais promocionais adaptados às preferências e dados demográficos individuais. Por exemplo, deepfakes podem ser usados para sobrepor imagens de produtos em cenários reais, permitindo que os consumidores visualizem os benefícios de um produto em seu próprio ambiente. Além disso, a tecnologia deepfake permite a criação de campanhas de storytelling convincentes, aumentando o engajamento com a marca e impulsionando a fidelidade do cliente. Adicionalmente, os deepfakes oferecem aos profissionais de marketing a capacidade de reaproveitar conteúdo existente de maneiras inovadoras, maximizando o retorno sobre o investimento em campanhas publicitárias.

Esta tecnologia é cada vez mais aplicada no marketing digital, permitindo que a empresa reduza seus custos, projete campanhas promocionais com mais facilidade, personalize sua oferta, proporcione experiências únicas para seus consumidores, mas também aumente a conscientização do mercado-alvo sobre certas questões sensíveis de importância social.

Radoslav Baltezarevic, Vice-Decano de Estudos de Pós-Graduação e Pesquisa Científica

Serviços de resposta a chamadas:Esses serviços utilizam deepfakes para fornecer respostas personalizadas a consultas de chamadas, melhorando o engajamento e a satisfação do cliente, especialmente em tarefas de encaminhamento de chamadas e recepção.

Suporte telefônico ao cliente:Utilizando vozes sintéticas geradas pela tecnologia deepfake, os serviços de suporte ao cliente simplificam tarefas rotineiras, como verificar saldos de contas ou registrar reclamações, melhorando a eficiência e a experiência do usuário.

Entretenimento:A indústria do entretenimento utiliza deepfakes para diversos fins, incluindo clonar e manipular vozes de atores para cenas em filmes e videogames. Essa abordagem se mostra inestimável quando restrições logísticas tornam as filmagens tradicionais desafiadoras ou quando os atores não estão disponíveis para gravação de voz durante a pós-produção. Além disso, deepfakes contribuem para conteúdo de sátira e paródia, oferecendo ao público insights humorísticos e interpretações criativas de figuras conhecidas. Um exemplo ilustrativo é o deepfake de 2023 apresentando Dwayne “The Rock” Johnson como Dora the Explorer, mostrando o potencial de experimentação lúdica com a tecnologia deepfake.

Leia também:A deepfake é ilegal?

Ferramentas e técnicas de detecção de deepfake

Uma ferramenta de detecção de deepfake é um software ou sistema projetado para identificar e detectar vídeos ou imagens deepfake. Normalmente, utiliza vários métodos para analisar conteúdo digital e determinar se ele foi manipulado ou gerado por IA.

Com o número crescente de deepfakes, o software de detecção de deepfake está se tornando cada vez mais popular para proteger contra os efeitos prejudiciais de vídeos e áudios falsos. O mercado global de software de detecção de deepfake deve apresentar uma CAGR de 38,3% de 2024 a 2029. E o tamanho do mercado de detecção de imagens falsas deve crescer de US$ 0,6 bilhão em 2024 para US$ 3,9 bilhões até 2029, a uma Taxa de Crescimento Anual Composta (CAGR) de 41,6% durante o período de previsão.

Recentemente, a OpenAI introduziu uma ferramenta para detectar imagens criadas por seu gerador de IA, DALL-E, enquanto especialistas alertam para deepfakes gerados por IA influenciando eleições. O detector, eficaz para imagens DALL-E, mas não para outras, será testado por pesquisadores de desinformação. A OpenAI também trabalha em marca d'água de conteúdo de IA e se junta a esforços como o C2PA para autenticidade de conteúdo digital.

Antes da OpenAI introduzir seu detector de deepfake, já existem alguns detectores com bom desempenho disponíveis.

Sentinel:Sentinelé uma plataforma de proteção baseada em IA que ajuda governos democráticos, agências de defesa e empresas a deter a ameaça dos deepfakes. Organizações respeitadas em toda a Europa contam com a tecnologia da Sentinel para fortificação. O mecanismo funciona permitindo que os usuários enviem conteúdo digital através de seu site ou API, submetendo-o automaticamente a uma análise minuciosa de adulteração por IA. O sistema discerne a autenticidade do conteúdo e fornece uma representação gráfica de quaisquer alterações feitas.

Deepware:Deepwareé uma ferramenta amigável projetada para detectar vídeos deepfake. Usando algoritmos avançados de machine learning, ele verifica o conteúdo do vídeo em busca de sinais de manipulação, como movimentos faciais não naturais e inconsistências em iluminação e sombras. Ele fornece uma pontuação de probabilidade indicando a probabilidade de um vídeo ser um deepfake, ajudando os usuários a avaliar rapidamente sua autenticidade.

Sensity:Sensityoferece uma plataforma abrangente para detecção de deepfakes em tempo real. Ele emprega uma combinação de visão computacional e técnicas de deep learning para analisar quadros de vídeo e sinais de áudio. A tecnologia da Sensity é utilizada por governos e organizações de mídia para se proteger contra a disseminação de notícias falsas e conteúdo malicioso.

Ferramenta Video Authenticator da Microsoft:A Ferramenta Video Authenticator da Microsoft é um recurso potente capaz de examinar imagens estáticas e conteúdo de vídeo, fornecendo uma classificação de confiança indicativa de potencial manipulação. Ela identifica habilmente os limites de mesclagem inerentes aos deepfakes, bem como nuances sutis de escala de cinza imperceptíveis ao olho humano. Além disso, fornece essa classificação de confiança instantaneamente, facilitando a identificação rápida de deepfakes.

FakeCatcher da Intel:Com uma impressionante taxa de precisão de 96%, o FakeCatcher entrega resultados em milissegundos. Desenvolvido em colaboração com Umur Ciftci da State University of New York em Binghamton, o FakeCatcher utiliza hardware e software da Intel, operando em um servidor e acessível através de uma interface baseada na web. O FakeCatcher emprega uma abordagem inovadora ao examinar vídeos genuínos em busca de pistas autênticas que definem o comportamento humano. Ele foca em indicadores sutis, como o “fluxo sanguíneo” evidente nos pixels de um vídeo. À medida que o sangue circula, as veias sofrem mudanças de cor, e esses sinais sutis são coletados de várias regiões faciais. Algoritmos sofisticados então traduzem esses sinais em mapas espaço-temporais. Através de técnicas de deep learning, o FakeCatcher determina rapidamente a autenticidade de um vídeo, distinguindo entre conteúdo genuíno e fabricado.

A resposta correta é B, manipulando a opinião pública e semeando confusão.