• A plataforma X de Elon Musk foi inundada por imagens impressionantes geradas por IA, o que desencadeou um debate sobre a moderação de conteúdo de IA.
  • A ferramenta de geração de imagens não regulamentada no X atua como um caso de teste para avaliar a segurança e as implicações éticas da IA.

NOSSA OPINIÃO
O recente experimento de Elon Musk com Grok destacou as consequências de uma regulação mínima da IA. A avalanche de imagens provocativas e ofensivas, incluindo algumas que mostram figuras públicas em contextos inapropriados, gera preocupação sobre o equilíbrio entre inovação e moderação de conteúdo. Embora Musk defenda uma IA menos regulada, a controvérsia sublinha a necessidade de salvaguardas sólidas para prevenir o uso indevido e garantir padrões éticos nas tecnologias emergentes.
-Tacy Ding, repórter da BTW

O que aconteceu

Na semana passada, a plataforma de mídia social X de Elon Musk foi inundada por um torrente de imagens estranhas geradas por computador, incluindo algumas violentas, ofensivas ou sexualmente sugestivas. Entre elas, uma mostrava Trump pilotando um helicóptero sobre o World Trade Center em chamas, enquanto outras mostravam Kamala Harris de biquíni e o Pato Donald usando heroína. Em meio ao burburinho online, Musk comentou: «Grok é a IA mais divertida do mundo!»

Na sexta-feira, as imagens impressionantes já começavam a perder sua novidade. De acordo com a empresa de dados PeakMetrics, o volume de publicações sobre Grok atingiu um pico de 166.000 em 15 de agosto, dois dias após o anúncio das funções de geração de imagens.

Embora o frenesi tenha diminuído, o impacto mais duradouro do momento viral de Grok pode ser suas implicações para o emergente campo da moderação de conteúdo de IA. O lançamento de Grok foi um experimento arriscado sobre o que acontece quando as barreiras de proteção são limitadas ou inexistentes.

Leia também:Musk diz que Neuralink implanta um segundo paciente com chip cerebral

Leia também:Quem é o dono do Grok AI?

Por que é importante

Elon Musk tem sido um firme defensor de uma IA minimamente regulada, criticando as ferramentas da OpenAI e do Google por serem muito «politicamente corretas». Apesar da natureza sem filtros das imagens produzidas pelo Grok, uma startup da Black Forest Labs, até esta impôs algumas limitações de conteúdo. As empresas de IA geralmente aplicam controles para evitar conteúdo difamatório, com direitos autorais ou enganoso, com restrições contra nudez, violência e gore. O DALL-E da OpenAI evita imagens «picantes» ou sexualmente sugestivas e as de figuras públicas.

À medida que as imagens virais intensificam o debate sobre o que essas ferramentas deveriam mostrar, Musk, um firme partidário de Trump, imbuíu a discussão com uma dimensão política. Emerson Brooking, pesquisador sênior residente no Atlantic Council que estuda as redes online, sugeriu que a ênfase no desenvolvimento de IA «anti-woke» pode ser contraproducente. «Ao diminuir a importância da segurança da IA e incitar à indignação, Musk pode estar tentando politizar mais amplamente o desenvolvimento da IA», disse. «Isso não é benéfico para a pesquisa de IA nem para o mundo, mas pode ser vantajoso para Elon Musk.»