• O governo britânico exorta a rede X de Elon Musk a limitar as imagens nocivas geradas por sua IA Grok.
  • Os reguladores intensificam a pressão enquanto a França, a Índia e a UE condenam essas produções como ilegais.

O que aconteceu: o governo exige ação urgente

O governo britânico pediu publicamente à rede social X de Elon Musk que aja imediatamente para impedir que sua ferramenta de IA Grok produza imagens sexualizadas e não consensuais de pessoas, incluindo mulheres e menores. A secretária de Estado de Tecnologia do Reino Unido, Liz Kendall, classificou a proliferação de imagens deepfake de natureza íntima como "totalmente revoltante" e pediu que a plataforma resolva o problema com urgência.

Relatos da Reuters mostram que os usuários conseguiram pedir ao Grok para gerar imagens de mulheres e crianças em trajes leves, gerando preocupação das autoridades europeias. A criação ou compartilhamento de tais imagens sem consentimento é ilegal no Reino Unido, e as plataformas devem impedir que os usuários encontrem esse conteúdo e removê-lo assim que tomarem conhecimento.

A conta oficial Safety do X declarou que a plataforma remove conteúdos ilegais e bane permanentemente as contas envolvidas, e que qualquer pessoa que pedir ao Grok para criar material ilícito sofrerá as mesmas consequências como se tivesse baixado diretamente. Elon Musk teria reagido à controvérsia publicando emojis de riso nas redes sociais, uma reação que gerou novas críticas sobre a seriedade da empresa em relação à segurança.

O regulador britânico Ofcom entrou em contato com o X e seu braço de IA xAI para garantir o cumprimento das obrigações previstas na lei de segurança online. As autoridades francesas denunciaram o problema aos promotores, e o governo indiano exigiu explicações, classificando o conteúdo como obsceno e uma falha nas medidas de proteção da plataforma.

Leia também:Reino Unido investe £210 milhões para reforçar as ciberdefesas do setor público
Leia também:G.Network vendida a um investidor em dificuldades enquanto setor de fibra do Reino Unido está sob pressão crescente

Por que isso é importante

Este incidente destaca as crescentes tensões entre as tecnologias de IA generativa e as leis existentes projetadas para proteger os usuários. A capacidade do Grok de produzir deepfakes exploradores revela lacunas na moderação de conteúdo em um momento em que ferramentas similares de outras empresas — como OpenAI e Google — aplicam medidas de proteção mais rigorosas.

Com múltiplas jurisdições denunciando essas produções como ilegais ou prejudiciais, este episódio pode influenciar futuras governanças e estruturas regulatórias de IA. Ele levanta questões sobre a responsabilidade das plataformas, a adequação das leis atuais, como alei de segurança online do Reino Unido, e sobre como as empresas de tecnologia devem equilibrar inovação e segurança dos usuários à medida que a geração de imagens por IA se torna mais acessível.