OpenAI detectará imagens de IA criadas pelo DALL-E3

OpenAI detectará imagens de IA criadas pelo DALL-E3 é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• A OpenAI lança uma ferramenta capaz de identificar imagens criadas por seu gerador de texto para imagem DALL-E 3, com testes internos mostrando uma taxa de precisão de 98%, mesmo após modificações comuns como compressão ou recorte.
• Além da detecção de imagens, a OpenAI planeja implementar uma marca d'água digital resistente a falsificações para incorporar sinais em conteúdo digital, tornando sua manipulação ou remoção mais difícil.
• A OpenAI colabora com Microsoft, Google e Adobe para estabelecer padrões que permitam rastrear a origem de mídias geradas por IA, a fim de responder às preocupações sobre o impacto da IA nas eleições mundiais.

OpenAIdesenvolve uma ferramenta para detectar imagens geradas por IA, respondendo às preocupações sobre o impacto do conteúdo gerado por IA nas eleições mundiais deste ano.

A nova ferramenta pode identificar imagens criadas pelo DALL-E3

A OpenAI se prepara para lançar uma ferramenta capaz de identificar imagens produzidas por seu gerador de texto para imagem,DALL-E 3. A startup, apoiada pelaMicrosoft, anunciou esse desenvolvimento na terça-feira. Testes internos indicam que a ferramenta reconhece com precisão imagens geradas pelo DALL-E 3 em cerca de 98% dos casos, mesmo levando em conta modificações comuns como compressão, recorte e ajustes de saturação com impacto mínimo.

Leia também:O assistente de IA do Opera agora pode resumir páginas da web no Android

Além da detecção de imagens, a OpenAI planeja implementar uma marca d'água digital resistente a falsificações. Esse recurso incorporará um sinal em conteúdo digital, como fotos ou áudio, tornando difícil removê-lo. Como parte dessas iniciativas, a OpenAI se associou a um grupo industrial composto por Google, Microsoft eAdobeque visa estabelecer um padrão para rastrear a origem de vários tipos de mídia.

Leia também:Quem é Fei Fei Li? Uma pioneira em IA acaba de lançar uma startup de 'inteligência espacial'

Os conteúdos gerados por IA têm impacto potencial nas eleições mundiais

As preocupações aumentam em relação ao impacto do conteúdo gerado por IA nas eleições mundiais deste ano, alimentadas por incidentes recentes. Em abril, durante as eleições gerais em andamento na Índia, vídeos falsos com dois atores de Bollywood criticando o primeiro-ministro Narendra Modi se tornaram virais online. A proliferação de conteúdo gerado por IA e deepfakes está se tornando cada vez mais comum não apenas na Índia, mas também em eleições ao redor do mundo, incluindo Estados Unidos, Paquistão e Indonésia.

Para enfrentar esses desafios, a OpenAI anunciou sua colaboração com a Microsoft para lançar um fundo de 'resiliência social' de 2 milhões de dólares destinado a apoiar iniciativas de educação em IA.