• OpenAI frustrou cinco operações de influência encobertas que usavam seus modelos de IA para atividades online fraudulentas.
  • As campanhas, envolvendo atores da Rússia, China, Irã e Israel, visavam manipular a opinião pública sobre temas globais.
  • Um novo comitê de segurança sob a liderança do CEO Sam Altman supervisionará o treinamento de futuros modelos de IA na OpenAI.

Sob a liderança deSam Altman, a OpenAI anunciou com sucesso a frustração de cinco operações de influência encobertas que usavam seus modelos de IA para atividades online fraudulentas. Essas operações, conduzidas por atores da Rússia, China, Irã e Israel, visavam manipular a opinião pública sobre importantes temas globais, destacando as preocupações contínuas sobre o uso indevido da tecnologia de IA generativa.

Desmantelamento de operações secretas

Esse conteúdo incluía comentários curtos, artigos mais longos, bem como nomes e biografias fictícios para contas em redes sociais. Os tópicos visados incluíam eventos globais significativos, como a invasão russa da Ucrânia, o conflito em Gaza, as eleições indianas e questões políticas na Europa e nos EUA.

Leia também:OpenAI se junta à Vox e à The Atlantic enquanto a mídia continua a vender conteúdo para modelos de IA

Leia também:OpenAI criou uma equipe para controlar a IA "superinteligente"

Objetivo e impactos

O principal objetivo dessas campanhas era manipular a opinião pública e influenciar resultados políticos. A OpenAI afirmou que essas operações enganosas não obtiveram maior interação dos usuários nem maior alcance por meio de seus serviços. Além disso, essas operações não se baseavam exclusivamente em material gerado por IA, mas também incluíam textos escritos manualmente ou memes copiados de várias fontes da internet.

Reação da OpenAI e desenvolvimentos relacionados

Em resposta a esses desafios, a OpenAI estabeleceu um comitê de segurança, liderado pelo CEO Sam Altman e outros membros do conselho, para supervisionar o treinamento de futuros modelos de IA. Esta iniciativa ressalta o compromisso da empresa em abordar preocupações de segurança relacionadas ao uso indevido da tecnologia de IA generativa. Além disso, aMeta Platformsidentificou em seu relatório trimestral de segurança conteúdos provavelmente gerados por IA e usados de forma enganosa no Facebook e Instagram, incluindo comentários que apoiam o tratamento de Israel aoconflito em Gazaem postagens de organizações de notícias globais e legisladores dos EUA.