Google CEO says Gemini errors are ‘completely unacceptable’

• El CEO de Google, Sundar Pichai, ha reconocido la controversia sobre los resultados de su IA Gemini, después de descubrirse que el modelo de IA producía descripciones históricamente inexactas.
• Google tomó medidas la semana pasada, suspendiendo temporalmente la capacidad de Gemini para generar imágenes.
• Sundar Pichai prometió seguir trabajando para mejorar la precisión y la imparcialidad de la IA de Gemini.

La IA Gemini genera controversia con resultados históricamente inexactos

El CEO Sundar Pichai de Google ha reconocido los controvertidos resultados de su IA Gemini, afirmando en un memorando interno que las imágenes y el texto generados han "ofendido a nuestros usuarios y mostrado sesgo". El reconocimiento surge en respuesta al descubrimiento de que el modelo de IA produjo representaciones históricamente inexactas, incluyendo soldados alemanes de la era nazi racialmente diversos, retratos no blancos de los Padres Fundadores de EE. UU. y tergiversaciones de los propios cofundadores de Google. Pichai aborda la gravedad de la situación, marcando la primera comunicación generalizada del CEO sobre el tema.

Lea también: Se espera que Gemini de Google llegue a los teléfonos Android el próximo año

Suspensión temporal de la generación de imágenes de Gemini y disculpa

Google tomó medidas la semana pasada al suspender temporalmente la capacidad de Gemini para generar imágenes a raíz de la controversia. La decisión siguió a la revelación pública de los problemáticos resultados del modelo de IA, lo que provocó críticas generalizadas. La empresa ha emitido una disculpa, reconociendo que la IA Gemini "no dio en el blanco" y expresando su compromiso de resolver los problemas. A pesar de la disculpa, Google no ha especificado si los problemas se han abordado por completo. La decisión de desactivar temporalmente la función de generación de imágenes tiene como objetivo mitigar el impacto de representaciones sesgadas e inexactas. Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

Garantía del CEO Pichai y compromiso de mejora

En el memorando interno reportado por Semafor, el CEO Sundar Pichai enfatiza la dedicación de Google para rectificar los problemas asociados con la IA Gemini. Pichai revela que la empresa ha estado trabajando diligentemente para abordar las "respuestas de texto e imágenes problemáticas" dentro de la aplicación Gemini. Si bien se abstiene de afirmar que los problemas se han resuelto por completo, Pichai reconoce las imperfecciones de la IA, particularmente en esta etapa temprana del desarrollo de la industria. Ver también: Asociación ECHOES.

Puede leer el memorando completo de Sundar Pichai a los empleados de Google a continuación: Ver también: IT Department - Athlok.

Hola a todos. Quiero abordar los problemas recientes con las respuestas problemáticas de texto e imágenes en la aplicación Gemini (anteriormente Bard). Sé que algunas de sus respuestas han ofendido a nuestros usuarios y mostrado sesgo; para ser claros, eso es completamente inaceptable y nos equivocamos. Ver también: Alejandro Estua.

Nuestros equipos han estado trabajando sin descanso para abordar estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones. Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón está alto para nosotros y perseveraremos durante el tiempo que sea necesario. Revisaremos lo sucedido y nos aseguraremos de solucionarlo a gran escala. Ver también: Alejandro Manzo.

Nuestra misión de organizar la información del mundo y hacerla universalmente accesible y útil es sacrosanta. Siempre hemos tratado de brindar a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este debe ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos de IA emergentes. Ver también: Alejandro Hernandez.

Impulsaremos un conjunto claro de acciones, que incluyen cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y "red-teaming", y recomendaciones técnicas. Estamos revisando todo esto y haremos los cambios necesarios. Ver también: Alejandro Garza.

Incluso mientras aprendemos de lo que salió mal aquí, también debemos aprovechar los anuncios de productos y tecnológicos que hemos hecho en IA en las últimas semanas. Eso incluye algunos avances fundamentales en nuestros modelos subyacentes, como nuestro avance de ventana de contexto de 1 millón de tokens y nuestros modelos abiertos, los cuales han sido bien recibidos. Ver también: Alejandro Guerrero.

Sabemos lo que se necesita para crear grandes productos que sean utilizados y queridos por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación tenemos un trampolín increíble para la ola de la IA. Centrémonos en lo más importante: construir productos útiles que sean dignos de la confianza de nuestros usuarios.