• El CEO de Google, Sundar Pichai, ha reconocido la controversia sobre los resultados de su IA Gemini, después de que se descubriera que el modelo de IA producía descripciones históricamente inexactas.
  • Google tomó medidas la semana pasada, suspendiendo temporalmente la capacidad de Gemini para generar imágenes.
  • Sundar Pichai prometió seguir trabajando para mejorar la precisión y la imparcialidad de la IA de Gemini.

Gemini AI genera controversia con resultados históricamente inexactos

El CEO Sundar Pichaide Google ha reconocido los controvertidos resultados de su IA Gemini, afirmando en un memorándum interno que las imágenes y el texto generados han «ofendido a nuestros usuarios y mostrado sesgo». Este reconocimiento surge como respuesta al descubrimiento de que el modelo de IA produjo representaciones históricamente inexactas, como soldados alemanes de la era nazi racialmente diversos, retratos no blancos de los Padres Fundadores de EE. UU. y tergiversaciones de los propios cofundadores de Google. Pichai aborda la gravedad de la situación, lo que marca la primera comunicación generalizada del CEO sobre el problema.

Lea también: Se espera que Gemini de Google llegue a los teléfonos Android el próximo año

Suspensión temporal de la generación de imágenes de Gemini y disculpa

Google actuó la semana pasada suspendiendo temporalmente la capacidad de Gemini para generar imágenes tras la controversia. La decisión se produjo después de la revelación pública de los resultados problemáticos del modelo de IA, lo que provocó críticas generalizadas. La empresa ha emitido una disculpa, reconociendo que la IA de Gemini «no dio en el blanco» y expresando su compromiso de resolver los problemas. A pesar de la disculpa, Google no ha especificado si los problemas se han solucionado por completo.

La decisión de deshabilitar temporalmente la función de generación de imágenes tiene como objetivo mitigar el impacto de las representaciones sesgadas e inexactas.

Garantía del CEO Pichai y compromiso de mejora

En el memorándum interno reportado por Semafor, el CEO Sundar Pichai enfatiza la dedicación de Google para rectificar los problemas asociados con la IA Gemini. Pichai revela que la empresa ha estado trabajando diligentemente para abordar las «respuestas problemáticas de texto e imagen» dentro de la aplicación Gemini. Si bien se abstiene de afirmar que los problemas se han resuelto por completo, Pichai reconoce las imperfecciones de la IA, particularmente en esta etapa temprana del desarrollo de la industria.

Puede leer el memorándum completo de Sundar Pichai a los empleados de Google a continuación:

Hola a todos. Quiero abordar los recientes problemas con las respuestas problemáticas de texto e imagen en la aplicación Gemini (anteriormente Bard). Sé que algunas de sus respuestas han ofendido a nuestros usuarios y mostrado sesgo; para ser claros, eso es completamente inaceptable y nos equivocamos.

Nuestros equipos han estado trabajando sin descanso para abordar estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones. Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón está alto para nosotros y seguiremos trabajando en ello el tiempo que sea necesario. Y revisaremos lo sucedido y nos aseguraremos de solucionarlo a gran escala.

Nuestra misión de organizar la información del mundo y hacerla universalmente accesible y útil es sacrosanta. Siempre hemos buscado brindar a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de IA.

Impulsaremos un conjunto claro de acciones, que incluyen cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y equipos rojos, y recomendaciones técnicas. Estamos revisando todo esto y haremos los cambios necesarios.

Incluso mientras aprendemos de lo que salió mal aquí, también debemos aprovechar los anuncios técnicos y de productos que hemos hecho en IA en las últimas semanas. Eso incluye algunos avances fundamentales en nuestros modelos subyacentes, por ejemplo, nuestro avance de ventana de contexto largo de 1 millón y nuestros modelos abiertos, los cuales han sido bien recibidos.

Sabemos lo que se necesita para crear excelentes productos que sean utilizados y queridos por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación tenemos un trampolín increíble para la ola de la IA. Centrémonos en lo más importante: crear productos útiles que merezcan la confianza de nuestros usuarios.