• Alguns estados têm leis contra deepfakes eleitorais, mas essas regulamentações muitas vezes não abrangem representações exageradas ou obviamente falsas.
  • Isso pode minar a confiança do público no que é real e no que é falso. Essa perda de confiança é considerada prejudicial ao funcionamento de uma sociedade democrática.

NOSSA AVALIAÇÃO
O uso de imagens geradas por IA, como as publicadas por Trump, pode influenciar significativamente as percepções e opiniões dos eleitores. A disseminação de conteúdo gerado por IA pode levar a uma desconfiança geral na mídia e nas fontes de informação. Compreender esses marcos legais é crucial para desenvolver políticas eficazes para conter a propagação de desinformação em contextos políticos.
-Lia XU, jornalista da BTW

O que aconteceu

O ex-presidente Donald Trump compartilhou recentemente uma série de imagens geradas por IA nas redes sociais para apoiar sua candidatura presidencial. Entre elas, havia um falso endosso da pop starTaylor Swift. Paralelamente a essas postagens, Trump acusou a vice-presidenteKamala Harrisde usar IA para criar uma imagem falsa de uma multidão em um comício. A acusação coincidiu com a disseminação de uma imagem gerada por IA mostrando Harris falando para uma multidão com um símbolo comunista ao fundo. A Universal Music Group, que representa Swift, não respondeu imediatamente a um pedido sobre o uso de sua imagem na postagem de Trump.

"Isso é conveniente para Trump, que antes sempre chamava tudo de falso em relação à IA e agora quer que chamemos coisas reais – como as multidões de Harris – de falsas para espalhar lixo de IA e assim minar a ideia de autenticidade e até mesmo a realidade", disseRobert Weissman, copresidente da Public Citizen.

Leia também:Presti arrecada US$ 3,5 milhões e usa 75.000 imagens para fotografia de móveis com IA

Leia também:TikTok começa a rotular automaticamente conteúdo gerado por IA

Por que isso é importante

O uso de IA para criar endossos falsos mina a confiança em figuras públicas e na mídia. Quando pessoas influentes como Taylor Swift são deturpadas, isso pode abalar a confiança do público na autenticidade dos endossos e na integridade das mensagens políticas. Além disso, a criação e disseminação de endossos falsos levantam questões éticas significativas. Envolve engano e manipulação, muitas vezes para fins políticos ou financeiros, e pode ter impactos reais na percepção e no comportamento do público.

O uso indevido de conteúdo gerado por IA pode levar a desafios legais, incluindo possíveis ações por difamação ou fraude. Também levanta questões sobre a regulamentação da tecnologia de IA e a responsabilidade de indivíduos por engano digital. Este incidente ressalta a necessidade urgente de melhorar a alfabetização midiática. À medida que as tecnologias de IA se tornam mais sofisticadas, o público precisa desenvolver habilidades para avaliar criticamente o conteúdo online e identificar possíveis falsificações.