OpenAI lucha contra la desinformación con colaboración tecnológica

OpenAI lucha contra la desinformación con colaboración tecnológica es perfilado por BTW Media porque la evidencia publicada lo vincula a infraestructura de internet, gobernanza, dependencias operativas o visibilidad de mercado.

• OpenAI planea añadir marcas de agua resistentes a manipulaciones en imágenes y audio para su autenticidad.
• OpenAI colabora con gigantes tecnológicos como Google y Microsoft para rastrear los orígenes de los medios.
• Los videos falsos durante las elecciones indias resaltan el problema global del contenido manipulado.

OpenAI ha lanzado una herramienta que puede detectar imágenes creadas por su generador de texto a imagen, DALL-E 3, una startup respaldada por Microsoft. La herramienta identificó correctamente imágenes creadas porDALL-E 3 aproximadamente el 98% de las veces en pruebas internasy puede manejar modificaciones comunes como compresión, recorte y cambios de saturación con un impacto mínimo.

Mejorando la autenticidad del contenido

El creador de ChatGPT planea introducir marcas de agua resistentes a manipulaciones para marcar digitalmente contenido como fotos y audio, con el objetivo de proporcionar una señal robusta que sea difícil de eliminar. Esta iniciativa es parte de un esfuerzo más amplio de OpenAI para garantizar la autenticidad y trazabilidad de los medios digitales.

Colaboración industrial para la trazabilidad de los medios

OpenAI se ha unido a importantes empresas tecnológicas,incluidas Google, Microsoft y Adobe, como parte de un grupo industrial enfocado en establecer estándares para rastrear los orígenes de varios tipos de medios. Esta colaboración subraya un compromiso colectivo para combatir la desinformación y garantizar la transparencia en el panorama digital.

Lea también:OpenAI detectará imágenes de IA creadas por DALL-E3

Desafíos de desinformación durante las elecciones

Durante las recientes elecciones generales en India, aparecieron videos falsos en línea, mostrando a dos actores de Bollywood criticando al primer ministro Narendra Modi. Este incidente subraya la prevalencia de desinformación y contenido manipulado, especialmente durante eventos cruciales como las elecciones.

Preocupación global

La proliferación de contenido generado por IA y deepfakes es un problema global creciente, observado no solo en India sino también en países como EE. UU., Pakistán e Indonesia. El uso de medios manipulados en las elecciones genera preocupación sobre el impacto de la desinformación en los procesos democráticos y la percepción pública.

Lea también:OpenAI utiliza contenido de FT para entrenar modelos de IA en colaboración con medios

Promoviendo la resiliencia social

En colaboración con Microsoft, OpenAI ha lanzado un fondo de 2 millones de dólares para la “resiliencia social” dedicado a apoyar iniciativas de educación en IA. Este fondo tiene como objetivo crear conciencia, educar al público y mejorar la preparación para abordar los desafíos planteados por el contenido generado por IA y los deepfakes, fomentando una sociedad más resiliente e informada.