Imagens de IA de Taylor Swift são 'chocantes e assustadoras', diz Satya Nadella

Imagens de IA de Taylor Swift são 'chocantes e assustadoras', diz Satya Nadella é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O CEO da Microsoft, Satya Nadellaenfatizou a urgência de ação rápida, depois que imagens falsificadas da estrela pop Taylor Swift apareceram online.
• Diante da facilidade com que os geradores de imagens de IA podem ser manipulados, o relatório destaca os desafios inerentes à imposição de tais restrições.
• A proliferação de ferramentas de IA que ajudam na criação de fotos falsas levanta preocupações e ressalta a necessidade de soluções abrangentes para os novos desafios do mundo digital.

O debate sobre IA e 'ataques à realidade' entrou no mundo de uma figura proeminente – Taylor Swift, que recentemente foi alvo de imagens deepfake compartilhadas online. Este caso trouxe à tona um dos medos mais discutidos relacionados à IA generativa: os desenvolvedores e empresas envolvidos estão fazendo o suficiente para se proteger contra abusos?

Uma resposta honesta

O CEO da Microsoft, Satya Nadella, respondeu a preocupações sobre o surgimento de imagens explícitas de Taylor Swift geradas por IA. Em uma entrevista ao NBC Nightly News, Nadella classificou o aumento da nudez simulada não consensual como 'chocante e assustador' e enfatizou a urgência de agir rapidamente.

Em uma entrevista a ser exibida na próxima terça-feira, Nadella reconheceu a gravidade da situação quando o entrevistador Lester Holt apontou que a internet está cheia de representações pornográficas falsas de Taylor Swift. A resposta de Nadella abordou a complexidade das questões políticas tecnológicas e insistiu na necessidade de salvaguardas robustas para mitigar tais incidentes.

Eu diria duas coisas: Primeiro, volto ao que considero nossa responsabilidade, ou seja, todas as salvaguardas que precisamos implementar em torno da tecnologia para que conteúdos mais seguros sejam produzidos. E há muito a ser feito, e muito já foi feito. Mas trata-se de uma convergência global e social – se preferir – em torno de certas normas. E podemos – especialmente quando leis, agências de aplicação da lei e plataformas de tecnologia trabalham juntas – acho que podemos regular muito mais do que pensamos – nós nos subestimamos.

Satya Nadella, CEO da Microsoft

Nadella enfatizou que a Microsoft está comprometida em tomar as medidas necessárias para garantir uma criação de conteúdo mais segura na área de tecnologia. Ele destacou a importância de estabelecer normas sociais globais, colaborar com agências de aplicação da lei e alavancar plataformas de tecnologia para controlar efetivamente o conteúdo online.

Embora haja indicações de que a Microsoft pode ter estado envolvida na disseminação dessas imagens falsificadas de Swift, um relatório da 404 Media sugere que as imagens se originaram de uma comunidade baseada no Telegram focada na criação de pornografia não consensual. Esta comunidade supostamente sugeriu o uso do gerador de imagens Designer da Microsoft, embora se acredite que ele proíba a geração de imagens de figuras públicas. No entanto, dada a facilidade com que os geradores de IA podem ser manipulados, o relatório destaca os desafios inerentes à aplicação de tais restrições.

Embora esses desenvolvimentos revelem vulnerabilidades técnicas que a Microsoft pode precisar abordar, eles também refletem preocupações mais amplas sobre a proliferação de ferramentas de IA que ajudam na criação de fotos nuas falsas. Esta tendência gerou um debate acalorado e destacou a necessidade de soluções abrangentes para enfrentar os novos desafios do mundo digital.

Leia também: Ferramenta de IA Nightshade 'envenena' obras de arte digitais para ajudar artistas na luta contra violações de direitos autorais

Uma pequena comunidade, grande poder

Alguns disseram que a Microsoft pode ter algo a ver com as imagens falsificadas de Swift. Os relatórios da 404 Media indicam que as imagens se originaram de uma comunidade baseada no Telegram que produz pornografia não consensual e recomenda o uso do gerador de imagens Designer da Microsoft. Teoricamente, o Designer se recusa a gerar imagens de celebridades, mas os geradores de IA são fáceis de enganar, e a 404 descobriu que é possível contornar suas regras ajustando os prompts. Embora isso não prove que o Designer foi usado para criar as imagens de Swift, é uma vulnerabilidade técnica que a Microsoft pode corrigir.

Mas as ferramentas de IA simplificaram enormemente o processo de criação de imagens de nudez falsas e realistas de uma pessoa real, causando caos para mulheres muito menos poderosas e famosas que Swift. Controlar sua produção não é tão simples quanto fazer grandes empresas reforçarem as salvaguardas. Mesmo que grandes plataformas de 'Big Tech' como a Microsoft sejam bloqueadas, ferramentas abertas como o Stable Diffusion podem ser retreinadas para criar imagens NSFW, apesar das tentativas de dificultar isso.

Muito menos usuários podem ter acesso a esses geradores, mas o incidente de Swift mostra o quão longe o trabalho de uma pequena comunidade pode se espalhar.

Nadella sugere vagamente mudanças sociais e políticas mais amplas, mas, apesar de alguns passos iniciais para regulamentar a IA, a Microsoft não tem uma solução clara. Legisladores e agências de aplicação da lei têm dificuldade em lidar com imagens sexuais não consensuais, e as falsificações criadas por IA representam uma complicação adicional. Alguns legisladores tentam alterar as leis de direito de imagem para resolver o problema, mas as soluções propostas geralmente apresentam sérios riscos à liberdade de expressão. A Casa Branca pediu 'ações legislativas' sobre o assunto, mas forneceu poucos detalhes sobre o que isso significa.

No entanto, existem outras soluções paliativas, como redes sociais limitando o alcance de imagens não consensuais, ou aparentemente Swift exercendo algum tipo de justiça com as próprias mãos contra aqueles que as distribuem. No momento, no entanto, o único plano claro de Nadella é 'limpar' o departamento de IA da Microsoft.