Google suspende la función de generación de imágenes del modelo de IA Gemini

Google suspende la función de generación de imágenes del modelo de IA Gemini es perfilado por BTW Media porque la evidencia publicada lo vincula con la infraestructura de internet, la gobernanza, las dependencias operativas o la visibilidad del mercado.

• Google está abordando los problemas con la función de generación de imágenes de su modelo de IA Gemini pausando la generación de imágenes de personajes y planeando un lanzamiento mejorado.
• Han surgido quejas en las redes sociales sobre inexactitudes en la generación de imágenes de Gemini, incluidas representaciones incorrectas en contextos históricos.
• A pesar de los avances en la lucha contra el sesgo racial, el modelo de IA Gemini de Google enfrenta críticas por sobrecorrección, destacadas por su reticencia a mostrar ciertas imágenes y su reciente actualización a Gemini 1.5 en medio de la competencia con Sora de OpenAI.

Googleanunció el jueves que está trabajando para solucionar los problemas recientes con la función de generación de imágenes del modelo de IA Gemini, pausando la generación de imágenes de personajes y planeando volver a lanzar una versión mejorada próximamente. El día anterior, Google se disculpó, reconociendo inexactitudes en ciertas descripciones de generación de imágenes históricas por parte del gran modelo Gemini y esforzándose por mejorar.

Hay representaciones incorrectas en contextos históricos

Recientemente han surgido quejas en las redes sociales sobre la función de texto a imagen de Gemini, como la aparición de mujeres y personas de color en imágenes con la temática del 'padre fundador estadounidense George Washington', lo cual es incorrecto. Además, cuando los usuarios pidieron a Gemini que generara soldados alemanes nazis, Gemini produjo fotos de mujeres negras, asiáticas y blancas vistiendo uniformes militares nazis.
Los usuarios también se quejaron de que Gemini no mostraría imágenes de personas blancas. Cuando se le pidió que mostrara la foto de una persona blanca, Gemini dijo que no podía atender esa solicitud. Sin embargo, cuando se le pidió que mostrara imágenes de personas negras, Gemini sugirió mostrar imágenes 'que celebran la diversidad y los logros de las personas negras'. Cuando se le pidió que mostrara imágenes que celebraran la diversidad y los logros de las personas blancas, Gemini dijo que estaba 'reacio' a cumplir con esa solicitud.

El análisis sugiere que esto puede ser una sobrecorrección de los problemas de sesgo racial de larga data en el campo de la IA, reflejando la búsqueda de 'multiculturalismo' de Google. En comparación con modelos de IA anteriores, Gemini ha logrado avances significativos en el tratamiento de los problemas de sesgo racial, pero el problema está 'exagerado'.

Gemini es el modelo de IA multimodal más grande y potente de Google. La semana pasada, la compañía lanzó el modelo de IA de última generación Gemini 1.5, que representa un avance significativo sobre Gemini 1.0, lanzado en diciembre del año pasado.

Lea también:OpenAI cura la 'pereza' de GPT-4 con nuevas actualizaciones

Gemini no da en el blanco

El director senior de producto de Google para Gemini, Jack Krawczyk, declaró que las capacidades de generación de imágenes de la compañía reflejan la 'base global de usuarios' de este gigante tecnológico, y que se toma en serio la representación y el sesgo. 'La generación de imágenes de Gemini llega a una amplia audiencia, lo que generalmente es bueno porque personas de todo el mundo la usan, pero no da en el blanco'.

A principios de este mes, Google comenzó a ofrecer servicios de generación de imágenes a través de Gemini, pero el lanzamiento de la nueva herramienta Sora asestó un golpe a Google en su intento de alcanzar aOpenAI, respaldada porMicrosoft. Sora puede generar videos continuos de 60 segundos basándose únicamente en indicaciones, asombrando a toda la industria tecnológica. Sora de OpenAI no solo presenta detalles con precisión, sino que también comprende la existencia de objetos en el mundo físico, ya sean imágenes, profundidad de campo, movimientos de cámara o incluso microexpresiones humanas y expresiones animales, todo lo cual ya es convincentemente realista.