Instagram temporarily disables AI-generated Asians

• Le générateur d’images IA de Meta a brièvement rencontré une pénurie dans la génération d’images précises de personnes asiatiques sur Instagram.
• Malgré les premières demandes et tentatives de rectification du problème, Meta n’a pas répondu aux questions du journaliste ni fourni d’explication.
• L’incident met en lumière les préoccupations persistantes concernant la représentation raciale et la précision dans les systèmes d’IA, incitant à un examen plus approfondi de la technologie de génération d’images de Meta.

Le générateur d’images IA de Meta a connu un problème temporaire, ne parvenant pas à générer des images précises de personnes asiatiques, à la suite d’un problème précédent où il dépeignait systématiquement tout le monde comme asiatique, quelle que soit la race spécifiée.

Bug du générateur d’images IA d’Instagram

Lire aussi: Le générateur d’images IA autonome de Meta: Un apport significatif pour la créativité humaine

Hier, j’ai souligné que le générateur d’images IA de Meta représentait systématiquement les personnes comme asiatiques, quelle que soit la race spécifiée dans le texte de la requête. Aujourd’hui, j’ai brièvement rencontré le problème inverse: j’ai eu du mal à générer des images représentant des individus asiatiques en utilisant les mêmes requêtes que la veille. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Les expériences que j’ai menées hier se sont déroulées sur Instagram, en utilisant le générateur d’images IA accessible dans les messages directs. Malgré de nombreuses tentatives, je n’ai pas réussi à produire une seule image précise avec des requêtes telles que « homme asiatique et ami caucasien » ou « homme asiatique et femme blanche ». Le système n’a réussi à créer une image correcte qu’une seule fois, représentant une femme asiatique et un homme blanc — mais il continue de rendre tout le monde asiatique. Voir aussi: Association ECHOES.

Lors de ma première demande hier, un porte-parole de Meta a demandé plus de détails sur mon article, y compris ma date limite. J’ai répondu rapidement mais n’ai reçu aucun suivi. Aujourd’hui, j’étais impatient de savoir si le problème avait été résolu ou si le système peinait toujours à générer des images précises d’une personne asiatique aux côtés de son ami blanc. Au lieu de rencontrer une série d’images racialement inexactes, j’ai reçu un message d’erreur: « On dirait que quelque chose s’est mal passé. Veuillez réessayer plus tard ou essayer une autre requête. » Voir aussi: Département IT - Athlok.

Communication avec l’équipe de Meta

Avais-je atteint une limite pour la génération de faux individus asiatiques ? J’ai fait appel à une collègue de The Verge, et elle a rencontré le même résultat. Voir aussi: Alejandro Estua.

J’ai expérimenté avec des requêtes plus larges liées aux individus asiatiques, telles que « homme asiatique en costume », « femme asiatique faisant du shopping » et « femme asiatique souriante ». Au lieu de recevoir une image, j’ai constamment rencontré le même message d’erreur. Une fois de plus, j’ai contacté l’équipe de communication de Meta — quel était le problème ? Laissez-moi fabriquer des images d’individus asiatiques ! (Pendant cette période, j’ai également rencontré des difficultés à générer des images avec des requêtes comme « homme latino en costume » et « homme afro-américain en costume », dont j’ai parlé à Meta.) Voir aussi: Alejandro Manzo.

Préoccupations concernant la représentation raciale

Quarante minutes plus tard, après une réunion, je n’avais toujours pas reçu de réponse de Meta. Cependant, à ce moment-là, la fonctionnalité Instagram fonctionnait correctement pour des requêtes simples comme « homme asiatique ». Il n’est pas rare que les entreprises que je couvre modifient discrètement quelque chose, rectifient une erreur ou suppriment une fonctionnalité une fois qu’elle est portée à leur attention par un journaliste. Ma demande a-t-elle involontairement provoqué une pénurie temporaire d’individus asiatiques générés par IA ? S’agissait-il simplement d’une coïncidence de timing ? Meta travaille-t-elle activement pour résoudre le problème ? J’aimerais avoir les réponses, mais Meta n’a pas répondu à mes demandes ni fourni d’explication. Voir aussi: Alejandro Hernandez.

Quoi qu’il se passe au siège de Meta, il y a encore place à l’amélioration — des requêtes comme « homme asiatique et femme blanche » produisent maintenant une image, mais le système continue de mal représenter les races en présentant les deux individus comme asiatiques, comme il l’a fait hier. Il semble que nous soyons revenus à la case départ. Je continuerai à surveiller la situation. Voir aussi: Alejandro Garza.