Instagram temporarily disables AI-generated Asians

• El generador de imágenes de IA de Meta enfrentó brevemente una escasez para generar imágenes precisas de personas asiáticas en Instagram.
• A pesar de las consultas iniciales y los intentos de rectificar el problema, Meta no respondió a las preguntas del reportero ni proporcionó una explicación.
• El incidente resalta las preocupaciones continuas sobre la representación racial y la precisión en los sistemas de IA, lo que genera un mayor escrutinio de la tecnología de generación de imágenes de Meta.

El generador de imágenes de IA de Meta enfrentó un fallo temporal, no logrando generar imágenes precisas de personas asiáticas, después de un problema anterior de representar consistentemente a todos como asiáticos, sin importar la raza especificada.

Fallo del generador de imágenes de IA de Instagram

Lea también: Generador de imágenes de IA independiente de Meta: Significativo para la creatividad humana

Ayer, destaqué que el generador de imágenes de IA de Meta retrataba consistentemente a las personas como asiáticas, independientemente de la raza especificada en la indicación de texto. Hoy, enfrenté brevemente el problema opuesto: me costó generar imágenes que representaran a personas asiáticas usando las mismas indicaciones que el día anterior. Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

Los experimentos que realicé ayer se llevaron a cabo en Instagram, utilizando el generador de imágenes de IA accesible en mensajes directos. A pesar de numerosos intentos, no logré producir una sola imagen precisa con indicaciones como “hombre asiático y amigo caucásico” o “hombre asiático y esposa blanca”. El sistema solo logró crear una imagen correcta una vez, representando a una mujer asiática y un hombre blanco, pero persistentemente mostrando a todos como asiáticos. Ver también: Asociación ECHOES.

Tras mi consulta inicial de ayer, un portavoz de Meta solicitó más detalles sobre mi historia, incluida mi fecha límite. Respondí de inmediato pero no recibí seguimiento. Hoy, estaba ansioso por averiguar si el problema se había resuelto o si el sistema aún tenía dificultades para generar imágenes precisas de una persona asiática junto a su amigo blanco. En lugar de encontrar una serie de imágenes racialmente inexactas, me apareció un mensaje de error: “Parece que algo salió mal. Inténtalo de nuevo más tarde o prueba con una indicación diferente”. Ver también: IT Department - Athlok.

Comunicación con el equipo de Meta

¿Había alcanzado un límite para generar individuos asiáticos fabricados? Solicité la ayuda de una colega de The Verge, y ella obtuvo el mismo resultado. Ver también: Alejandro Estua.

Experimenté con indicaciones más amplias relacionadas con personas asiáticas, como “hombre asiático en traje”, “mujer asiática de compras” y “mujer asiática sonriendo”. En lugar de recibir una imagen, me encontraba constantemente con el mismo mensaje de error. Una vez más, me comuniqué con el equipo de comunicaciones de Meta: ¿cuál era el problema? ¡Déjenme fabricar imágenes de personas asiáticas! (Durante este período, también tuve dificultades para generar imágenes usando indicaciones como “hombre latino en traje” y “hombre afroamericano en traje”, sobre las cuales consulté a Meta). Ver también: Alejandro Manzo.

Preocupaciones sobre la representación racial

Cuarenta minutos después, después de una reunión, aún no había recibido respuesta de Meta. Sin embargo, para entonces, la función de Instagram funcionaba correctamente para indicaciones sencillas como “hombre asiático”. No es raro que las empresas que cubro modifiquen algo en silencio, corrijan un error o eliminen una función una vez que se les llama la atención por parte de un periodista. ¿Mi consulta causó inadvertidamente una escasez temporal de individuos asiáticos generados por IA? ¿Fue simplemente una coincidencia en el tiempo? ¿Está Meta trabajando activamente para resolver el problema? Ojalá tuviera las respuestas, pero Meta no respondió a mis consultas ni proporcionó una explicación. Ver también: Alejandro Hernandez.

Sea lo que sea que esté sucediendo en la sede de Meta, todavía hay margen de mejora: indicaciones como “hombre asiático y mujer blanca” ahora producen una imagen, pero el sistema continúa tergiversando las razas al representar a ambos individuos como asiáticos, como lo hizo ayer. Parece que estamos de vuelta al punto de partida. Seguiré monitoreando la situación. Ver también: Alejandro Garza.