• O regulador britânico de mídia está conduzindo uma investigação formal sobre a suposta produção de deepfakes sexualmente explícitos pelo Grok.
  • O comissário de privacidade do Canadá ampliou sua investigação para incluir a unidade de IA de Musk, a xAI, devido a preocupações semelhantes.

O que aconteceu: reguladores dos dois países continuam investigando X e sua IA sobre deepfakes

A autoridade britânica de mídiaOfcomconfirmou na quinta-feira que sua investigação formal sobre a plataforma de mídia social X de Elon Musk e seu chatbot de IA Grok continuará, apesar das recentes modificações feitas pela empresa para limitar as capacidades problemáticas de edição de imagens.

A Ofcom afirmou que recebeu bem as restrições impostas pela xAI à capacidade do Grok de modificar imagens de pessoas reais para vesti-las com roupas sexualmente reveladoras, como biquínis — um ajuste destinado a responder às preocupações dos reguladores — mas acrescentou que sua investigação “continua” para entender completamente como o Grok passou a gerar tais conteúdos e se o X cumpriu a lei britânica.

A investigação trata de relatos de que o Grok foi usado para criar e compartilhar deepfakes sexualizados não consentidos, incluindo imagens de mulheres e crianças em contextos degradantes, o que poderia constituir violações da lei britânica de segurança online e medidas de proteção relacionadas.

Enquanto isso, no Canadá, o Comissariado de Privacidade anunciou a ampliação de uma investigação existente sobre o X para incluir uma investigação relacionada sobre a xAI, a empresa por trás do Grok, devido a preocupações semelhantes sobre a criação e distribuição de conteúdos deepfake sexualmente explícitos.

Ambos os reguladores enfatizaram que os ajustes das empresas de Musk não excluem a responsabilidade, e que mais trabalho é necessário para avaliar a conformidade com as leis de privacidade e segurança.

Leia também:Regulador britânico diz que sua investigação sobre deepfakes do X continuará
Leia também:Análise: Musk sofre revés com deepfakes do Grok, mas batalha regulatória está longe de acabar

Por que isso é importante

A pressão regulatória contínua sobre o Grok destaca o desafio global crescente da governança de sistemas de IA capazes de gerar conteúdos realistas, mas prejudiciais. Os deepfakes existem há anos, mas sua integração em plataformas amplamente utilizadas como o X — com facilidade de acesso — levanta novos riscos legais e sociais.

No Reino Unido, a Ofcom pode impor multas de até 18 milhões de libras ou 10% do faturamento global, e até mesmo solicitar bloqueios determinados pela justiça se leis como a Lei de Segurança Online forem violadas. A investigação ampliada do Canadá demonstra a disposição das autoridades de privacidade de ir além da coleta de dados para examinar os resultados das ferramentas de IA quando informações pessoais são usadas sem consentimento.

Juntas, essas ações podem criar precedentes sobre como os reguladores em todo o mundo abordam a manipulação não consentida de imagens, a segurança da IA e a responsabilidade das plataformas, em um momento em que a indústria e os legisladores tentam acompanhar as rápidas evoluções tecnológicas.