- OpenAI está lanzando una herramienta capaz de identificar imágenes creadas por su generador de texto a imagen DALL-E 3, con pruebas internas que muestran una precisión del 98% incluso con alteraciones comunes como compresión o recorte.
- Además de la detección de imágenes, OpenAI planea implementar marcas de agua resistentes a la manipulación para incrustar señales en contenido digital, dificultando su manipulación o eliminación.
- OpenAI está colaborando con Microsoft, Google y Adobe para establecer estándares para rastrear los orígenes de los medios generados por IA, con el objetivo de abordar las preocupaciones sobre el impacto de la IA en las elecciones globales.
OpenAI está desarrollando una herramienta para detectar imágenes generadas por IA, abordando las preocupaciones sobre el impacto del contenido generado por IA en las elecciones globales de este año.
La nueva herramienta puede identificar imágenes creadas por DALL-E 3
OpenAI se dispone a lanzar una herramienta capaz de identificar imágenes producidas por su generador de texto a imagen, DALL-E 3. La startup, respaldada por Microsoft, anunció este desarrollo el martes. Las pruebas internas indican que la herramienta reconoce con precisión las imágenes generadas por DALL-E 3 aproximadamente el 98% de las veces, incluso adaptándose a alteraciones comunes como compresión, recorte y ajustes de saturación con un impacto mínimo.
Lea también: El asistente de IA de Opera ahora puede resumir páginas web en Android
Además de la detección de imágenes, OpenAI tiene la intención de implementar marcas de agua resistentes a la manipulación. Esta función incrustará una señal en contenido digital como fotos o audio, dificultando su eliminación. Como parte de estas iniciativas, OpenAI se ha unido a un grupo de la industria que incluye a Google, Microsoft y Adobe, con el objetivo de establecer un estándar para rastrear los orígenes de varios tipos de medios.
Lea también: ¿Quién es Fei Fei Li? La pionera de la IA acaba de lanzar una startup de ‘inteligencia espacial’
Los contenidos generados por IA tienen un impacto potencial en las elecciones globales
Las preocupaciones están aumentando sobre el impacto del contenido generado por IA en las elecciones globales de este año, impulsadas por incidentes recientes. En abril, en medio de las elecciones generales en curso en India, se volvieron virales en línea videos falsos que presentaban a dos actores de Bollywood criticando al Primer Ministro Narendra Modi. La proliferación de contenido generado por IA y deepfakes se está volviendo más frecuente no solo en India, sino también en elecciones en todo el mundo, incluidos los Estados Unidos, Pakistán e Indonesia.
Para abordar estos desafíos, OpenAI anunció su colaboración con Microsoft en el lanzamiento de un fondo de 'resiliencia social' de 2 millones de dólares destinado a apoyar iniciativas de educación sobre IA.