• Os deepfakes, alimentados por redes adversárias generativas (GAN), fundem imagens ou vídeos em um conteúdo fonte, criando material audiovisual muito realista, mas potencialmente enganoso.
  • Os usos positivos da tecnologia deepfake incluem a melhoria da educação por meio de professores virtuais interativos e a criação de experiências de entretenimento autênticas em filmes, documentários e telejornais.
  • Os riscos associados aos deepfakes incluem a possibilidade de disseminar desinformação, exacerbar conflitos sociais e ameaçar a segurança nacional ao permitir que atores mal-intencionados manipulem a opinião pública e usurpem a identidade de indivíduos.

Atualmente, a tecnologia deepfake tem sido usada em diversos cenários, como produção cinematográfica e televisiva. No entanto, também tem gerado preocupações quanto ao seu uso indevido para fins maliciosos, como a disseminação de informações falsas e a manipulação da opinião pública.

Introdução aos deepfakes

Deepfakes referem-se ao uso de modelos de aprendizado de máquina chamadosredes adversárias generativas(GAN) para fundir imagens ou vídeos em imagens ou vídeos fonte. Aproveitando a tecnologia de redes neurais para aprendizado em larga escala, os deepfakes envolvem a síntese de conteúdo falso combinando a voz, expressões faciais e movimentos corporais de um indivíduo. A forma mais comum de deepfake é a troca de rosto por IA, que também inclui síntese de voz, síntese facial, geração de vídeos, etc. Essa tecnologia permite criar conteúdo audiovisual muito realista e difícil de distinguir, tornando impossível para os observadores discernir a autenticidade a olho nu.

Leia também:Qual é a diferença entre IA generativa e IA discriminativa?

Aplicações positivas dos deepfakes

Na educação, professores virtuais melhoram o aprendizado digital por meio da interatividade e do engajamento, enquanto vídeos explicativos de personagens históricos sintetizados criam uma experiência mais imersiva para os aprendizes.

No entretenimento, a tecnologia deepfake ultrapassa os limites do tempo e do espaço em criações artísticas como filmes e documentários, apresentando o conteúdo de forma mais autêntica. Ela pode criar apresentadores virtuais para telejornais e ídolos virtuais muito cativantes.

Além disso, os deepfakes encontram aplicações na arte, interações sociais, realidade virtual, saúde e outras áreas.

Leia também:Quanto custa um chatbot de IA?

Riscos relacionados aos deepfakes

Atores mal-intencionados podem explorar a tecnologia deepfake para disseminar vídeos falsos, exacerbar conflitos sociais, incitar violência e terrorismo, ou interferir em agências de inteligência concorrentes, ameaçando assim a segurança nacional e pública.

A acessibilidade da tecnologia de troca de rosto em vídeo permite que indivíduos comuns criem vídeos manipulados, o que possibilita que pessoas mal-intencionadas usurpem ou roubem identidades facilmente, levando a ações como pornografia de vingança, difamação comercial, extorsão, ciberataques e atividades criminosas, causando danos a indivíduos e empresas.

Especialistas acreditam que os deepfakes aumentam a desconfiança do público em relação aos governos. À medida que a conscientização sobre os perigos dos deepfakes cresce, o público pode se tornar mais cético em relação a vídeos autênticos, confundindo informações reais e falsas e adotando uma atitude cética em relação a esclarecimentos oficiais, gerando ansiedades sociais e crises de confiança.

Atualmente, o conteúdo audiovisual falso gerado por IA pode enganar de forma convincente, levando a um aumento de casos de engano bem-sucedido. Para lidar com isso, os países estão implementando medidas legislativas e tecnológicas. No entanto, o jogo de gato e rato entre deepfakes e medidas anti-deepfake persistirá à medida que a tecnologia de IA avança, exigindo atenção e resposta contínuas.