• OpenAI planea añadir marcas de agua inviolables a las imágenes y al audio para garantizar la autenticidad.
  • OpenAI colabora con gigantes tecnológicos como Google y Microsoft para rastrear el origen de los medios.
  • Videos falsos durante las elecciones en India ilustran el problema mundial del contenido manipulado.

OpenAI ha lanzado una herramienta capaz de detectar imágenes creadas por su generador de texto a imagen DALL-E 3, una startup respaldada por Microsoft. La herramienta identificó correctamente las imágenes creadas porDALL-E 3 en aproximadamente el 98 % de los casos durante pruebas internasy puede manejar modificaciones comunes como la compresión, el recorte y los cambios de saturación con un impacto mínimo.

Mejorar la autenticidad del contenido

El creador de ChatGPT planea introducir una marca de agua inviolable para marcar digitalmente el contenido como las fotos y el audio, con el objetivo de proporcionar una señal robusta difícil de eliminar. Esta iniciativa es parte de un esfuerzo más amplio de OpenAI para garantizar la autenticidad y la trazabilidad de los medios digitales.

Colaboración industrial para la trazabilidad de los medios

OpenAI se ha asociado con empresas tecnológicas líderes,especialmente Google, Microsoft y Adobe, dentro de un grupo industrial que busca establecer normas para rastrear el origen de diferentes tipos de medios. Esta colaboración subraya un compromiso colectivo para luchar contra la desinformación y garantizar la transparencia en el panorama digital.

Lea también:OpenAI detectará imágenes de IA creadas por DALL-E3

Desafíos de desinformación durante las elecciones

Durante las recientes elecciones generales en India, circularon en línea videos falsos en los que aparecían dos actores de Bollywood criticando al Primer Ministro Narendra Modi. Este incidente pone de relieve la prevalencia de la desinformación y el contenido manipulado, especialmente durante eventos cruciales como las elecciones.

Preocupación mundial

La proliferación de contenido generado por IA y de deepfakes es un problema mundial creciente, observado no solo en India sino también en países como Estados Unidos, Pakistán e Indonesia. El uso de medios manipulados durante las elecciones suscita preocupaciones sobre el impacto de la desinformación en los procesos democráticos y la percepción pública.

Lea también:OpenAI utiliza el contenido del FT para entrenar modelos de IA en el marco de una colaboración mediática

Promover la resiliencia social

En colaboración con Microsoft, OpenAI ha lanzado un fondo de 2 millones de dólares para la «resiliencia social», dedicado a apoyar iniciativas de educación en IA. Este fondo busca concienciar, educar al público y mejorar la preparación para enfrentar los desafíos planteados por el contenido generado por IA y los deepfakes, fomentando así una sociedad más resiliente e informada.