Instagram desativa temporariamente os Asiáticos gerados por IA

Instagram temporarily disables AI-generated Asians é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O gerador de imagens de IA do Meta encontrou brevemente uma escassez na geração de imagens precisas de pessoas asiáticas no Instagram.
• Apesar dos primeiros pedidos e tentativas de correção do problema, o Meta não respondeu às perguntas do jornalista nem forneceu explicação.
• O incidente destaca as preocupações persistentes sobre a representação racial e a precisão nos sistemas de IA, incentivando um exame mais aprofundado da tecnologia de geração de imagens do Meta.

O gerador de imagens de IA do Metateve um problema temporário, não conseguindo gerar imagens precisas de pessoas asiáticas, na sequência de um problema anterior em que retratava sistematicamente todos como asiáticos, independentemente da raça especificada.

Bug do gerador de imagens de IA do Instagram

Leia também:O gerador de imagens de IA autônomo do Meta: Uma contribuição significativa para a criatividade humana

Ontem, destaquei que o gerador de imagens de IA do Meta representava sistematicamente as pessoas como asiáticas, independentemente da raça especificada no texto da consulta. Hoje, encontrei brevemente o problema inverso: tive dificuldade em gerar imagens representando indivíduos asiáticos usando as mesmas consultas de ontem.

As experiências que realizei ontem ocorreram no Instagram, usando o gerador de imagens de IA acessível nas mensagens diretas. Apesar de inúmeras tentativas, não consegui produzir uma única imagem precisa com consultas como "homem asiático e amigo caucasiano" ou "homem asiático e mulher branca". O sistema só conseguiu criar uma imagem correta uma vez, representando uma mulher asiática e um homem branco — mas continua representando todos como asiáticos.

No meu primeiro pedido ontem, um porta-voz do Meta pediu mais detalhes sobre meu artigo, incluindo meu prazo. Respondi rapidamente, mas não recebi nenhum acompanhamento. Hoje, estava ansioso para saber se o problema havia sido resolvido ou se o sistema ainda lutava para gerar imagens precisas de uma pessoa asiática ao lado de seu amigo branco. Em vez de encontrar uma série de imagens racialmente imprecisas, recebi uma mensagem de erro: "Parece que algo deu errado. Tente novamente mais tarde ou tente outra consulta."

Comunicação com a equipe do Meta

Será que atingi um limite para a geração de falsos indivíduos asiáticos? Pedi ajuda a uma colega do The Verge, e ela encontrou o mesmo resultado.

Experimentei consultas mais amplas relacionadas a indivíduos asiáticos, como "homem asiático de terno", "mulher asiática fazendo compras" e "mulher asiática sorrindo". Em vez de receber uma imagem, encontrei constantemente a mesma mensagem de erro. Mais uma vez, entrei em contato com a equipe de comunicação do Meta — qual era o problema? Deixe-me fabricar imagens de indivíduos asiáticos! (Durante esse período, também tive dificuldades para gerar imagens com consultas como "homem latino de terno" e "homem afro-americano de terno", sobre as quais falei com o Meta.)

Preocupações sobre a representação racial

Quarenta minutos depois, após uma reunião, ainda não havia recebido resposta do Meta. No entanto, naquele momento, a funcionalidade do Instagram estava funcionando corretamente para consultas simples como "homem asiático". Não é incomum que as empresas que cubro modifiquem discretamente algo, corrijam um erro ou removam um recurso assim que um jornalista as alerta. Meu pedido teria involuntariamente causado uma escassez temporária de indivíduos asiáticos gerados por IA? Foi apenas uma coincidência de timing? O Meta está trabalhando ativamente para resolver o problema?

Gostaria de ter as respostas, mas o Meta não respondeu aos meus pedidos nem forneceu explicação.

Aconteça o que acontecer na sede do Meta, ainda há espaço para melhorias — consultas como "homem asiático e mulher branca" agora produzem uma imagem, mas o sistema continua representando mal as raças, apresentando ambos os indivíduos como asiáticos, como fez ontem. Parece que voltamos à estaca zero. Continuarei monitorando a situação.