Elon Musk terá que trabalhar horas extras novamente, e temo que as plataformas de redes sociais voltarão a ser barulhentas por causa da privacidade das celebridades. Quando cessarão as infrações da tecnologia de inteligência artificial? Desde o aparecimento da tecnologia de “troca de rosto com IA”, surgiram eventos de “troca de rosto”, e muitas estrelas foram submetidas a “troca de rosto com IA” para promoções comerciais.
Além disso, os retratos de estrelas, celebridades ou pessoas comuns são substituídos por fotos ou vídeos que contêm elementos de pornografia, violência, feiura, etc., e são divulgados e vendidos, etc., levando o público a acreditar erroneamente que as fotos e vídeos relevantes são reais, diminuindo a avaliação social da pessoa “com rosto trocado”, e supostamente infringindo o direito à reputação da pessoa “com rosto trocado”. A história da “troca de rosto com IA” é informação falsa sobre Taylor Swift.
Últimas vítimas
Surgiu a última vítima do Deepfake– a superestrela mundial e maior streamer, Taylor Swift.
Em questão de horas, X, Facebook e outras plataformas de redes sociais foram inundadas de “fotos desfavoráveis” falsas que foram vistas por dezenas de milhões de pessoas. Agora que Taylor Swift foi informada do incidente, ela expressou sua indignação e os fãs se organizaram por conta própria para empreender uma ação de proteção.
No X, alguns fãs irritados se dirigiram diretamente a @Musk, gritando que isso é algo com que você tem que se ocupar. O incidente começou quando o novo namorado de Taylor Swift, o jogador da NFL Travis Kelce, jogava pelo Kansas City Chiefs, e Taylor se tornou uma presença constante nos jogos do time depois que seu relacionamento foi revelado. Foi usada IA para gerar fotos explícitas de Taylor e vários “jogadores” fictícios com o cenário do estádio.
Há rumores sobre como as imagens se tornaram virais, e alguns sugerem que apareceram pela primeira vez em um grupo de chat criptografado. Alguns relatórios afirmam que as fotos deepfake foram publicadas inicialmente em um site desagradável, que está cheio de fotos desfavoráveis de celebridades famosas.
Além de Taylor, o site apresentava centenas de outras celebridades, incluindo Margot Robbie, que interpreta a Barbie.
Em constante crise
Até agora, algumas das contas envolvidas na disseminação das fotos foram banidas pelas principais plataformas, mas ainda há muitos vazamentos.
Pelo lado do Facebook, a empresa controladora Meta também teve um porta-voz que disse: “O conteúdo viola nossas políticas e estamos removendo-o de nossa plataforma e tomando medidas contra a conta que o publicou”.
Questionado sobre isso em uma coletiva de imprensa da Casa Branca no dia 26, o porta-voz Jean-Pierre disse: “Estamos preocupados com a circulação desse tipo de imagem, e mais especificamente, imagens falsas, o que é preocupante.”
“Embora as empresas de redes sociais possam tomar decisões independentes sobre a gestão de conteúdo, acreditamos que elas têm um papel importante a desempenhar na aplicação de suas próprias regras para evitar a propagação de desinformação e imagens privadas de pessoas reais sem seu consentimento”, disse Jean-Pierre. Ele também acrescentou que a aplicação frouxa na Internet afeta mais as mulheres, que são os principais alvos de assédio e intimidação online.
Segundo Jean-Pierre, este não é um problema novo, é um que as administrações de Biden e Harris priorizaram desde o primeiro dia no cargo, “e levamos isso muito a sério. Mais uma vez, isso nos preocupa.”
Vale a pena notar que esta não é a primeira vez que Taylor Swift é prejudicada pela IA. No início de janeiro, um anúncio gerado por IA para um sorteio falso de Taylor Swift se tornou viral na rede social Facebook.
“Olá a todos, sou Taylor Swift. Devido a um erro de embalagem, 3.000 conjuntos de utensílios de cozinha Le Creuset não puderam ser vendidos corretamente offline e foram transferidos para venda online. Tenho boas notícias para compartilhar com vocês, me juntei à Le Creuset para uma promoção: 20 dos meus fãs leais receberão um conjunto de utensílios de cozinha grátis para presentear.”
Na verdade, o “Mildew” do vídeo não é realmente a Swift, mas uma tecnologia de “falsificação profunda” de IA que sintetizou sua voz e a uniu com sua imagem e um clipe de um anúncio da Le Creuset. A empresa respondeu rapidamente, dizendo que Swift não esteve envolvida em nenhum sorteio para consumidores e que todas as promoções do produto provinham de campanhas oficiais em redes sociais.
O que é o Deepfake de IA
A tecnologia de Deepfake de IA voltou a atrair a atenção. Deepfake (Deepfake) é a palavra composta do inglês “Deep learning” (aprendizado profundo) e “Fake” (falso), refere-se ao uso de tecnologia de aprendizado profundo para gerar imagens, áudio ou vídeo sintéticos.
Siwei Lyu, professor de ciência da computação no Laboratório de Ciências Forenses de Mídia da Universidade de Buffalo, disse que o golpe de “deep fake” provavelmente foi criado usando um serviço de texto para voz. Essas ferramentas traduzem roteiros em som e os sintetizam em clipes de vídeo por meio de um programa de sincronização labial.