• OpenAI planeja adicionar marcas d'água imutáveis a imagens e áudio para garantir autenticidade.
  • OpenAI colabora com gigantes da tecnologia como Google e Microsoft para rastrear a origem da mídia.
  • Vídeos falsos durante as eleições na Índia ilustram o problema global de conteúdo manipulado.

OpenAI apresentou uma ferramenta capaz de detectar imagens geradas por seu gerador de texto para imagem DALL-E 3, uma startup apoiada pela Microsoft. A ferramenta identificou as imagens criadas peloDALL-E 3 em testes internos com aproximadamente 98% de precisãoe pode lidar com modificações comuns como compressão, corte e alterações de saturação com mínimo impacto.

Melhorar a autenticidade do conteúdo

O desenvolvedor do ChatGPT planeja introduzir uma marca d'água imutável para rotular digitalmente conteúdos como fotos e áudio, com o objetivo de fornecer um sinal robusto e difícil de remover. Esta iniciativa faz parte de um esforço maior da OpenAI para garantir a autenticidade e rastreabilidade da mídia digital.

Colaboração do setor para rastreabilidade de mídia

OpenAI se uniu a empresas líderes de tecnologia,especialmente Google, Microsoft e Adobe, dentro de um grupo do setor que deseja estabelecer padrões para rastreamento de origem de vários tipos de mídia. Esta colaboração destaca um compromisso comum no combate à desinformação e na garantia de transparência no cenário digital.

Leia também:OpenAI detectará imagens de IA criadas pelo DALL-E3

Desafios de desinformação nas eleições

Durante as recentes eleições parlamentares na Índia, vídeos falsos circularam online nos quais dois atores de Bollywood criticavam o primeiro-ministro Narendra Modi. Este incidente destaca a disseminação de desinformação e conteúdo manipulado, especialmente em eventos cruciais como eleições.

Preocupação global

A disseminação de conteúdo gerado por IA e deepfakes é um problema global crescente, observado não apenas na Índia, mas também em países como Estados Unidos, Paquistão e Indonésia. O uso de mídia manipulada em eleições levanta preocupações sobre o impacto da desinformação nos processos democráticos e na percepção pública.

Leia também:OpenAI usa conteúdo do FT para treinar modelos de IA em colaboração com a mídia

Promovendo resiliência social

Em colaboração com a Microsoft, a OpenAI lançou um fundo de 2 milhões de dólares para “resiliência social”, que apoiará iniciativas educacionais na área de IA. Este fundo visa aumentar a conscientização, educar o público e melhorar a prontidão para enfrentar os desafios de conteúdo gerado por IA e deepfakes, promovendo assim uma sociedade mais resiliente e informada.