Reguladora britânica investiga IA Grok de Elon Musk por deepfakes sexualizadas

Regulador britânico investiga IA Grok de Elon Musk por deepfakes e imagens sexualizadas é um registro público baseado em evidências de artigos, contexto de objeto, links de eventos e contexto de relacionamento.

• A autoridade reguladora de mídia britânica Ofcom iniciou uma investigação formal contra a plataforma X de Elon Musk e seu chatbot de IA Grok, após preocupações de que a ferramenta possa ter permitido a criação e disseminação de imagens deepfake sexuais e ilegais. • O primeiro-ministro Keir Starmer condenou o conteúdo como "nojento" e ilegal, e as autoridades consideram medidas legais e regulatórias que podem incluir multas ou restrições de serviço se X não cumprir as leis de segurança.

O que aconteceu: Investigação da Ofcom sobre o uso indevido do Grok A autoridade reguladora de comunicações britânica Ofcom iniciou uma investigação contra a plataforma de mídia social X por supostos resultados prejudiciais de seu chatbot de IA Grok, especialmente imagens sexualizadas e deepfake que podem violar as leis britânicas. A investigação visa esclarecer se X avaliou e mitigou adequadamente o risco de Grok gerar e disseminar conteúdo ilegal, incluindo material com imagens íntimas não consensuais e imagens de abuso sexual infantil.

Relatos indicam que usuários induziram Grok a produzir imagens sexualmente sugestivas alterando digitalmente fotos de pessoas sem seu consentimento. Em resposta a fortes críticas públicas e regulatórias, X e o desenvolvedor de IA xAI restringiram os recursos de geração e edição de imagens do Grok na plataforma principal, limitando-os a assinantes pagantes – uma medida para conter o abuso. No entanto, críticos argumentam que isso não resolve completamente o problema subjacente, pois pontos de acesso separados, como o aplicativo independente Grok, ainda podem produzir tais imagens. O governo britânico adotou uma postura firme.

O primeiro-ministro Keir Starmer classificou o incidente como "absolutamente nojento e vergonhoso" e alertou os parlamentares de que o governo interviria rapidamente se X não conseguisse controlar os resultados do Grok, incluindo o exercício de poderes regulatórios para restringir ou controlar o serviço. A ministra da Tecnologia, Liz Kendall, e outros funcionários se juntaram a essa demonstração de urgência, vinculando o uso indevido da IA a preocupações mais amplas com a segurança online e o abuso de tecnologias digitais.

A investigação da Ofcom examinará a conformidade com a Lei de Segurança Online britânica (Online Safety Act), que exige que as plataformas protejam os usuários contra conteúdo ilegal, incluindo material que envolva exploração e abuso sexual. A autoridade tem o poder de solicitar ordens judiciais que, em caso de violações graves, poderiam desconectar X dos sistemas de pagamento britânicos ou do acesso à internet. Esse desenvolvimento no Reino Unido ocorre em meio a um escrutínio global mais amplo.

Vários países, incluindo Malásia e Indonésia, restringiram o acesso ao Grok devido a preocupações com suas capacidades de geração de imagens por IA, citando riscos de produção de conteúdo ofensivo, obsceno ou não consensual. Da mesma forma, a Comissão Europeia anunciou uma revisão da conformidade de X com as leis regionais de segurança online.

Leia também: Elon Musk quer tornar o algoritmo do X open source sob supervisão global Leia também: xAI de Elon Musk levanta US$ 20 bilhões em meio a reação crescente contra deepfakes de IA do Grok Por que isso é importante A investigação da Ofcom sobre o Grok destaca tensões significativas na interseção de inteligência artificial generativa, moderação de conteúdo e responsabilidade legal.

À medida que os sistemas de IA se tornam capazes de sintetizar imagens realistas, o potencial de abuso, incluindo a criação de materiais prejudiciais ou ilegais, aumenta a pressão sobre os reguladores para aplicar as leis existentes e desenvolver novas estruturas para tecnologias de IA generativa. A controvérsia também ressalta as limitações dos modelos atuais de governança de plataforma, que dependem fortemente de denúncias de usuários e medidas reativas.

Críticos da resposta de X argumentaram que restringir a geração de imagens a usuários pagantes simplesmente monetiza a capacidade de criar conteúdo prejudicial, em vez de eliminá-la, e que a exigência de assinatura não impede o abuso da tecnologia subjacente. Além disso, a abordagem do Reino Unido, apoiada por políticos de alto escalão, sugere uma evolução no sentido de criminalizar não apenas o compartilhamento de imagens ilegais, mas também sua criação por meio de ferramentas de IA – uma posição com implicações para a liberdade de expressão, responsabilidade da plataforma e alcance regulatório.

Equilibrar segurança, inovação e direitos civis será um desafio central à medida que as autoridades tentam regular a IA sem sufocar casos de uso benéficos. Para X e as ambições mais amplas de Musk em IA por meio da xAI, o resultado dessa investigação pode influenciar a confiança do usuário, as políticas de governança da plataforma e a disposição dos governos de impor condições mais rigorosas, incluindo multas significativas ou restrições de serviço.

Reguladores e legisladores em todo o mundo provavelmente acompanharão de perto as ações do Reino Unido, pois elas podem estabelecer precedentes para a supervisão de sistemas de IA generativa integrados a plataformas sociais amplamente utilizadas.