- Os deepfakes criam de forma convincente enganos de áudio, vídeo ou visuais, combinando técnicas de aprendizado profundo com a criação de conteúdo falsificado.
- Embora tenham usos no entretenimento e no atendimento ao cliente, suas aplicações mais sombrias incluem a disseminação de informações falsas e a facilitação de fraudes de identidade.
- A corrida armamentista contínua contra os deepfakes está impulsionando o desenvolvimento de ferramentas de detecção como Sentinel e Sensity AI, bem como iniciativas colaborativas como C2PA.
Os deepfakes, alimentados por IA, criam de forma convincente enganos de áudio, vídeo ou visuais, levantando duas preocupações: desde aplicações benignas no entretenimento até usos sinistros como a disseminação de desinformação e a facilitação de fraudes de identidade. Para combater essa ameaça, ferramentas de detecção como Sentinel e Sensity AI estão surgindo, ao lado de iniciativas como C2PA.
O que é IA de deepfake?
A IA de deepfake é uma forma de inteligência artificial usada para produzir imagens, sons e vídeos enganosos convincentes. O termo abrange tanto a tecnologia em si quanto o conteúdo enganoso resultante, e é uma mistura de 'deep learning' (aprendizado profundo) e 'fake' (falso).
Os deepfakes geralmente manipulam material de origem existente, substituindo uma pessoa por outra. Eles também geram conteúdo totalmente novo mostrando indivíduos realizando ações ou dizendo palavras que eles nunca realmente disseram ou fizeram.
A principal preocupação com os deepfakes é sua capacidade de disseminar informações falsas que parecem vir de fontes confiáveis. Por exemplo, em 2022, um vídeo deepfake foi divulgado mostrando o presidente ucraniano Volodymyr Zelenskyy supostamente exortando suas tropas a se renderem.
Também existem preocupações sobre possível interferência eleitoral e propagação de propaganda eleitoral. "Consultores políticos, campanhas, candidatos e até mesmo membros do público em geral estão usando essa tecnologia sem entender completamente como ela funciona ou, mais importante, todos os perigos potenciais que ela pode causar", disse Carah Ong Whaley, diretora do programa acadêmico do Centro de Política da UVA.
"Estou particularmente preocupada com o uso de IA para manipulação de eleitores – não apenas por meio de deepfakes, mas também pela capacidade da IA generativa de realizar microssegmentação superpoderosa por meio de campanhas de SMS e e-mail", acrescentou.
"Consultores políticos, campanhas, candidatos e até mesmo membros do público em geral estão usando essa tecnologia sem entender completamente como ela funciona ou, mais importante, todos os perigos potenciais que ela pode causar."
Carah Ong Whaley, diretora do programa acadêmico do Centro de Política da UVA
Apesar dos riscos significativos associados aos deepfakes, eles também têm aplicações legítimas, como em áudio de videogames e entretenimento, bem como em suporte ao cliente e sistemas de resposta a chamadas, como transferência de chamadas e serviços de recepcionista.
Leia também:A IA generativa é deepfake?
Aplicações da tecnologia deepfake
Aplicações negativas
Chantagem e danos à reputação:Isso ocorre quando a imagem de um alvo é colocada em um cenário ilegal, inapropriado ou comprometedor, como enganar o público, participar de atividades sexuais explícitas ou consumir drogas. Esses vídeos são usados para coagir uma vítima, manchar a reputação de um indivíduo, buscar vingança ou praticar cyberstalking. A forma mais comum de chantagem ou vingança é a pornografia deepfake não consensual, comumente chamada de revenge porn. Em 2019, um software chamado DeepNude foi desenvolvido, capaz de tornar uma mulher nua com um único clique, e rapidamente se espalhou viralmente para fins maliciosos, incluindo assédio a mulheres.
Falsas evidências:Imagens ou sons deepfake falsificados podem ser apresentados como evidências em procedimentos judiciais, incriminando falsamente indivíduos ou inocentando-os de delitos.
Fraude:Os deepfakes são usados para usurpar a identidade de indivíduos, muitas vezes com o objetivo de obter informações pessoais sensíveis, como dados bancários ou números de cartão de crédito. Essa usurpação pode se estender a executivos ou funcionários com acesso a dados confidenciais, representando ameaças significativas à segurança cibernética.
E de acordo com a IEEE Spectrum, "a fraude de identidade era a principal preocupação com deepfakes para mais de três quartos dos entrevistados em uma pesquisa da indústria de segurança cibernética realizada pela empresa biométrica iProov."
Desinformação e manipulação política:Vídeos deepfake de políticos ou figuras de confiança são usados para manipular a opinião pública e semear confusão, muitas vezes contribuindo para a disseminação de notícias falsas. Quase todos os líderes mundiais, incluindo Barack Obama, ex-presidente dos EUA, Donald Trump, então presidente dos EUA, Nancy Pelosi, política americana, Angela Merkel, chanceler alemã, foram todos explorados de alguma forma por vídeos falsos, e até mesmo o fundador do Facebook, Mark Zuckerberg, enfrentou um caso semelhante. Casos como o vídeo deepfake do presidente ucraniano Volodymyr Zelenskyy ilustram o potencial dos deepfakes para exacerbar conflitos e desestabilizar situações.
Manipulação do mercado de ações:Conteúdo deepfake falsificado pode influenciar os preços das ações, com vídeos falsos mostrando executivos fazendo declarações prejudiciais sobre suas empresas, levando à desvalorização das ações. Por outro lado, vídeos fabricados promovendo avanços tecnológicos ou lançamentos de produtos podem inflar artificialmente o valor das ações.
Quiz
Como os vídeos deepfake de políticos ou figuras de confiança contribuem para a desinformação?
A. Fornecendo informações precisas ao público
B. Manipulando a opinião pública e semeando confusão
C. Expondo a corrupção política
D. Promovendo a transparência no governo
A resposta correta está no final do artigo.
Aplicações positivas
Arte:Os deepfakes são usados para gerar novas composições musicais a partir de gravações existentes de obras de artistas, permitindo abordagens inovadoras na criação musical e remixagem. E a tecnologia deepfake democratizou a criação de obras de arte, tornando-a acessível a um leque mais amplo de pessoas. Ela permite que artistas produzam peças inovadoras, cativando o público com experiências únicas. Por exemplo, o Museu Dalí em St. Petersburg, Flórida, usou a tecnologia deepfake para dar vida a Salvador Dalí, permitindo que os visitantes interagissem com o famoso artista por meio da inteligência artificial.
Marketing digital:A tecnologia deepfake é cada vez mais usada em estratégias de marketing digital para criar conteúdo envolvente e imersivo. Ao aproveitar os deepfakes, os profissionais de marketing podem desenvolver anúncios e materiais promocionais altamente personalizados, adaptados às preferências e características demográficas de cada um. Por exemplo, deepfakes podem ser usados para sobrepor imagens de produtos em cenários reais, permitindo que os consumidores visualizem os benefícios de um produto em seu próprio ambiente. Além disso, a tecnologia deepfake permite criar campanhas de storytelling convincentes, fortalecendo o engajamento da marca e a fidelização de clientes. Ademais, os deepfakes oferecem aos profissionais de marketing a oportunidade de reutilizar conteúdo existente de forma inovadora, maximizando o retorno sobre o investimento em campanhas publicitárias.
"Essa tecnologia é cada vez mais aplicada no marketing digital, permitindo que as empresas reduzam seus custos, projetem campanhas promocionais mais facilmente, personalizem sua oferta, ofereçam experiências únicas a seus consumidores, mas também conscientizem o mercado-alvo sobre certas questões sensíveis de importância social."
Radoslav Baltezarevic, vice-diretor de pós-graduação e pesquisa científica, professor de marketing, comunicação e gestão, Universidade Megatrend
Serviços de resposta a chamadas:Esses serviços usam deepfakes para fornecer respostas personalizadas às consultas dos chamadores, melhorando o engajamento e a satisfação dos clientes, especialmente em tarefas de transferência de chamadas e serviços de recepcionista.
Suporte telefônico ao cliente:Usando vozes sintéticas geradas pela tecnologia deepfake, os serviços de suporte ao cliente simplificam tarefas comuns como verificar saldos de contas ou registrar reclamações, melhorando a eficiência e a experiência do usuário.
Entretenimento:A indústria do entretenimento explora os deepfakes para diversos fins, incluindo clonagem e manipulação de vozes de atores para cenas de filmes e videogames. Essa abordagem se mostra valiosa quando restrições logísticas tornam as filmagens tradicionais difíceis ou quando os atores não estão disponíveis para gravação de voz na pós-produção. Além disso, os deepfakes contribuem para conteúdo satírico e de paródia, oferecendo ao público perspectivas humorísticas e interpretações criativas de personagens familiares. Um exemplo ilustrativo é o deepfake de 2023 com Dwayne 'The Rock' Johnson no papel de Dora, a Aventureira, demonstrando o potencial de experimentação lúdica com a tecnologia deepfake.
Leia também:A IA de deepfake é ilegal?
Ferramentas e técnicas de detecção de deepfakes
Uma ferramenta de detecção de deepfake é um software ou sistema projetado para identificar e detectar vídeos ou imagens deepfake. Geralmente usa vários métodos para analisar o conteúdo digital e determinar se foi manipulado ou gerado por IA.
Com o número crescente de deepfakes, os softwares de detecção de deepfakes estão se tornando cada vez mais populares para proteção contra os efeitos prejudiciais de vídeos falsos e gravações de áudio falsas. O mercado global de software de detecção de deepfakes deve apresentar um CAGR de 38,3% de 2024 a 2029. E o tamanho do mercado de detecção de imagens falsas deve passar de US$ 0,6 bilhão em 2024 para US$ 3,9 bilhões até 2029, a uma taxa de crescimento anual composta (CAGR) de 41,6% durante o período de previsão.
Recentemente, a OpenAI apresentou uma ferramenta para detectar imagens criadas por seu gerador de IA, DALL-E, enquanto especialistas alertam sobre a influência de deepfakes gerados por IA nas eleições. O detector, eficaz para imagens DALL-E, mas não para outras, será testado por pesquisadores de desinformação. A OpenAI também está trabalhando em marca d'água para conteúdo de IA e participa de esforços como C2PA para autenticidade de conteúdo digital.
Antes de a OpenAI introduzir seu detector de deepfakes, já existiam detectores eficientes disponíveis.
Sentinel:A Sentinel é uma plataforma de proteção baseada em IA que ajuda governos democráticos, agências de defesa e empresas a combater a ameaça dos deepfakes. Organizações respeitadas em toda a Europa confiam na tecnologia da Sentinel para sua proteção. O mecanismo funciona permitindo que os usuários enviem conteúdo digital por meio de seu site ou API, após o qual é submetido a uma revisão automática para detectar qualquer adulteração por IA. O sistema discerne a autenticidade do conteúdo e fornece uma representação gráfica de todas as alterações feitas.
Deepware:O Deepware é uma ferramenta amigável projetada para detectar vídeos deepfake. Por meio de algoritmos avançados de aprendizado de máquina, ele analisa o conteúdo do vídeo em busca de sinais de manipulação, como movimentos faciais anormais e inconsistências na iluminação e sombras. Ele fornece uma pontuação de probabilidade indicando a probabilidade de um vídeo ser um deepfake, ajudando os usuários a avaliar rapidamente sua autenticidade.
Sensity:A Sensity oferece uma plataforma abrangente para detectar deepfakes em tempo real. Ela usa uma combinação de visão computacional e técnicas de aprendizado profundo para analisar quadros de vídeo e sinais de áudio. A tecnologia da Sensity é usada por governos e mídia para se proteger contra a disseminação de notícias falsas e conteúdo malicioso.
Ferramenta de autenticação de vídeo da Microsoft:A ferramenta de autenticação de vídeo da Microsoft é um recurso poderoso capaz de examinar tanto imagens estáticas quanto conteúdo de vídeo, fornecendo uma pontuação de confiança indicando possível manipulação. Ela identifica habilmente os limites de fusão inerentes aos deepfakes, bem como nuances sutis de níveis de cinza imperceptíveis ao olho humano. Além disso, fornece essa pontuação de confiança instantaneamente, facilitando a rápida identificação de deepfakes.
FakeCatcher da Intel:Com uma impressionante taxa de precisão de 96%, o FakeCatcher fornece resultados em milissegundos. Desenvolvido em colaboração com Umur Ciftci da Universidade Estadual de Nova York em Binghamton, o FakeCatcher usa hardware e software Intel, rodando em um servidor e acessível por meio de interface web. O FakeCatcher usa uma abordagem inovadora ao examinar vídeos autênticos em busca de pistas que definem o comportamento humano. Ele se concentra em indicadores sutis, como o "fluxo sanguíneo" visível nos pixels de um vídeo. Quando o sangue circula, as veias mudam de cor, e esses sinais sutis são coletados de várias regiões do rosto. Algoritmos sofisticados então transformam esses sinais em mapas espaço-temporais. Por meio de técnicas de aprendizado profundo, o FakeCatcher determina rapidamente a autenticidade de um vídeo, distinguindo conteúdo autêntico de conteúdo fabricado.
A resposta correta é B, manipulando a opinião pública e semeando confusão.