OpenAI combate desinformação com colaboração tecnológica

OpenAI combate desinformação com colaboração tecnológica é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• OpenAI planeja adicionar marcas d'água resistentes a adulterações em imagens e áudio para autenticidade.
• OpenAI colabora com gigantes da tecnologia como Google e Microsoft para rastrear origens de mídia.
• Vídeos falsos durante as eleições na Índia destacam o problema global de conteúdo manipulado.

OpenAI lançou uma ferramenta que pode detectar imagens criadas por seu gerador de texto para imagem, DALL-E 3, uma startup apoiada pela Microsoft. A ferramenta identificou corretamente imagens criadas peloDALL-E 3 cerca de 98% das vezes em testes internose pode lidar com modificações comuns como compressão, corte e alterações de saturação com impacto mínimo.

Aprimorando a autenticidade do conteúdo

O criador do ChatGPT planeja introduzir marcas d'água resistentes a adulterações para marcar digitalmente conteúdo como fotos e áudio, visando fornecer um sinal robusto que seja difícil de remover. Esta iniciativa faz parte de um esforço mais amplo da OpenAI para garantir a autenticidade e rastreabilidade da mídia digital.

Colaboração do setor para rastreabilidade de mídia

OpenAI uniu forças com as principais empresas de tecnologia,incluindo Google, Microsoft e Adobe, como parte de um grupo do setor focado em estabelecer padrões para rastrear as origens de vários tipos de mídia. Esta colaboração ressalta um compromisso coletivo de combater a desinformação e garantir a transparência no cenário digital.

Leia também:OpenAI detectará imagens de IA criadas pelo DALL-E3

Desafios de desinformação durante as eleições

Durante as recentes eleições gerais na Índia, vídeos falsos surgiram online, apresentando dois atores de Bollywood criticando o primeiro-ministro Narendra Modi. Este incidente ressalta a prevalência de desinformação e conteúdo manipulado, particularmente durante eventos cruciais como eleições.

Preocupação global

A proliferação de conteúdo gerado por IA e deepfakes é uma questão global crescente, observada não apenas na Índia, mas também em países como EUA, Paquistão e Indonésia. O uso de mídia manipulada em eleições levanta preocupações sobre o impacto da desinformação nos processos democráticos e na percepção pública.

Leia também:OpenAI usa conteúdo do FT para treinar modelos de IA em colaboração de mídia

Promovendo a resiliência social

Em colaboração com a Microsoft, a OpenAI lançou um fundo de US$ 2 milhões de “resiliência social” dedicado a apoiar iniciativas de educação em IA. Este fundo visa aumentar a conscientização, educar o público e melhorar a preparação para enfrentar os desafios impostos pelo conteúdo gerado por IA e deepfakes, promovendo uma sociedade mais resiliente e informada.