- Google pausa la capacidad de Gemini para generar imágenes de personas tras las quejas de los usuarios sobre inexactitudes históricas.
- A pesar de mostrar muchas nuevas funciones en su conferencia de desarrolladores I/O, Google aún no ha solucionado la generación de imágenes de Gemini.
- Google está luchando por encontrar un equilibrio para abordar el problema debido a los sesgos en los conjuntos de datos de entrenamiento.
Google enfrenta desafíos para arreglar su generador de imágenes de IA Gemini, el cual ha sido pausado desde febrero debido a quejas de los usuarios sobre inexactitudes históricas y estereotipos raciales. A pesar de las promesas de una solución rápida, el problema sigue sin resolverse, lo que resalta la complejidad de abordar los sesgos en los conjuntos de datos de entrenamiento de IA.
Función de Gemini pausada
El generador de imágenes de IA Gemini de Google ha estado pausado desde febrero después de que los usuarios se quejaran de inexactitudes en las representaciones históricas y estereotipos raciales. La IA, que se suponía que generaría imágenes de personas, enfrentó críticas por mostrar representaciones anacrónicas y estereotipadas.
El CEO de Google, Sundar Pichai, se disculpó, y Demis Hassabis de DeepMind prometió una solución en semanas. Sin embargo, el problema sigue sin resolverse y la función continúa deshabilitada en las aplicaciones de Gemini en web y móvil.
Lea también: Google está añadiendo su modelo de IA Gemini Nano a Chrome de escritorio
La solución enfrenta desafíos
El retraso en abordar el problema pone de relieve la complejidad de lidiar con los sesgos en la IA. Los conjuntos de datos de entrenamiento a menudo contienen más imágenes de personas blancas y refuerzan estereotipos negativos de personas no blancas.
El intento inicial de Google de corregir estos sesgos mediante hardcoding fue torpe, y ahora la empresa lucha por encontrar una solución equilibrada. Este problema en curso sirve como recordatorio de que corregir el sesgo de la IA es una tarea desafiante.
Lea también: Google y HP lanzarán la plataforma de videoconferencia 3D Project Starline
Muestra de nuevas funciones
A pesar del contratiempo en la generación de imágenes, Google muestra otras funciones de Gemini en su conferencia anual de desarrolladores I/O. Estas incluyen chatbots personalizados, un planificador de itinerarios de vacaciones e integraciones con Google Calendar, Keep y YouTube Music. Sin embargo, el problema no resuelto de la generación de imágenes eclipsa estos avances, subrayando la importancia de abordar los sesgos de la IA de manera efectiva.