xAI de Elon Musk levanta US$ 20 bilhões em meio à crescente controvérsia sobre os deepfakes do Grok AI

A xAI de Elon Musk levanta US$ 20 bilhões em meio à crescente reação contra os deepfakes do Grok AI é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• xAI, a empresa de inteligência artificial de Elon Musk, obteve 20 bilhões de dólares em uma grande rodada de financiamento, enquanto seu chatbot Grok é alvo de críticas globais por gerar imagens sexualizadas e não consentidas.
• Reguladores e grupos da sociedade civil exigem um controle mais rigoroso da moderação de conteúdo por IA, destacando preocupações mais amplas sobre segurança e governança de plataformas.

O que aconteceu: financiamento recorde da xAI e reação negativa contra o Grok

A empresa de IA deElon Musk, xAI, anunciou uma captação de 20 bilhões de dólares, avaliando a empresa em cerca de 250 bilhões de dólares, um marco importante em sua corrida para competir no setor cada vez mais competitivo de inteligência artificial. Esta rodada atraiu o apoio de grandes investidores e destaca a confiança contínua na inovação em IA e seu potencial comercial.

No centro da imagem pública daxAIestá seu chatbot de IA Grok, integrado à plataforma de mídia social X (antigo Twitter) de Musk. Originalmente comercializado como um companheiro de IA capaz de respostas conversacionais e tarefas criativas, Grok gerou uma onda de críticas em relação à geração de conteúdo. Os detratores afirmam que o sistema foi usado por usuários para produzir imagens sexualizadas e não consentidas de mulheres e menores, especialmente por meio de solicitações no X que manipulam fotografias ou geram imagens explícitas.

Um relatório recente da Internet Watch Foundation (IWF) destacou como a função de geração de imagens do Grok foi usada para criar material profundamente preocupante, incluindo conteúdo semelhante a imagens de abuso sexual infantil. O órgão de vigilância descreveu usuários de um fórum da dark web se vangloriando das técnicas de criação desse tipo de conteúdo, o que também gerou apelos por intervenção urgente dos reguladores.

Este anúncio de financiamento ocorre em um momento de maior escrutínio. No Reino Unido, a Commission des femmes et des égalités de la Chambre des communes expressou sérias preocupações sobre a proliferação de conteúdo explícito gerado por IA no X e considera ações que vão desde multas até restrições à plataforma. Na União Europeia, os reguladores ordenaram que o X retenha todos os documentos relacionados ao Grok até o final de 2026, como parte das revisões de conformidade sob o Digital Services Act.

Leia também:Tesla assina contrato de chips de US$ 16,5 bilhões com a Samsung
Leia também:Brasil alerta que montadoras podem parar a produção em semanas

Por que isso é importante

A justaposição da enorme captação de recursos da xAI e a controvérsia em torno do Grok ilustra uma tensão central no cenário atual da IA. Por um lado, os investidores injetam dinheiro em empresas de IA avançada em busca de tecnologias transformadoras e retornos comerciais. Por outro, as implicações sociais e éticas dessas tecnologias levantam questões urgentes sobre supervisão, responsabilidade e segurança.

A tecnologia de deepfakes e a geração de imagens evoluíram rapidamente, e a capacidade do Grok de produzir conteúdo explícito e manipulado destacou as fraquezas dos sistemas atuais de moderação. Isso ecoa preocupações mais amplas levantadas por especialistas em IA que afirmam que muitos modelos generativos, quando expostos a dados de treinamento não filtrados ou restrições de segurança insuficientes, podem produzir resultados prejudiciais.

Como disse um pesquisador de IA em uma análise recente sobre tecnologias semelhantes: "os modelos refletem os dados com os quais são treinados", e sem garantias robustas, até sistemas de alto desempenho podem gerar conteúdo ofensivo.

Reguladores de várias jurisdições estão agora intervindo. A ordem de retenção de documentos relacionados ao Grok emitida pela Commission européenne sugere que ela está se preparando para um exame mais aprofundado da conformidade da xAI com o Digital Services Act, especialmente em relação a conteúdo ilegal e prejudicial em plataformas como o X. Da mesma forma, os apelos do ministère indien de l’Électronique et des Technologies de l’information por um plano de ação destacam a natureza global das preocupações regulatórias sobre a moderação de conteúdo por IA.

Para usuários e grupos da sociedade civil, os problemas fundamentais não são apenas comerciais. Eles giram em torno da confiança, segurança e do impacto real dos sistemas de IA que podem ser explorados para gerar material prejudicial. A intervenção da IWF, por exemplo, destaca o perigo de a IA tornar esse tipo de conteúdo mais acessível e comum, potencialmente contornando as proteções tradicionais contra a exploração sexual infantil.

Os críticos também questionam se a corrida pela monetização das tecnologias de IA ultrapassou o desenvolvimento de estruturas de governança responsáveis. Se as principais plataformas são incapazes de moderar efetivamente ferramentas generativas poderosas, as consequências podem ir além de incidentes isolados e levar a danos mais amplos afetando grupos vulneráveis e o discurso público.