• O CEO do Google, Sundar Pichai, reconheceu a controvérsia gerada pelos resultados de sua IA Gemini, após constatar que o modelo de IA produzia descrições historicamente imprecisas.
  • O Google tomou medidas na semana passada, suspendendo temporariamente a capacidade do Gemini de gerar imagens.
  • Sundar Pichai prometeu continuar trabalhando para melhorar a precisão e a imparcialidade da IA Gemini.

IA Gemini gera controvérsia com resultados historicamente imprecisos

Sundar Pichai, CEO do Googlereconheceu os resultados controversos de sua IA Gemini, declarando em uma nota interna que as imagens e o texto gerados « ofenderam nossos usuários e demonstraram parcialidade ». Esse reconhecimento vem após a descoberta de que o modelo de IA produziu representações historicamente imprecisas, incluindo soldados alemães da era nazista racialmente diversos, retratos não brancos dos Pais Fundadores dos Estados Unidos e representações errôneas dos próprios cofundadores do Google. Pichai enfatiza a gravidade da situação, marcando a primeira comunicação generalizada do CEO sobre essa questão.

Leia também: Gemini do Google deve chegar aos celulares Android no próximo ano

Suspensão temporária da geração de imagens do Gemini e pedido de desculpas

O Google agiu na semana passada suspendendo temporariamente a capacidade do Gemini de gerar imagens após a controvérsia. A decisão seguiu-se à revelação pública dos resultados problemáticos do modelo de IA, gerando fortes críticas. A empresa pediu desculpas, reconhecendo que a IA Gemini « errou o alvo » e expressando seu compromisso em resolver os problemas. Apesar das desculpas, o Google não especificou se os problemas foram totalmente resolvidos. A decisão de desativar temporariamente a função de geração de imagens visa atenuar o impacto das representações tendenciosas e imprecisas.

Garantia e compromisso de melhoria do CEO Pichai

Na nota interna divulgada pela Semafor, o CEO Sundar Pichai destaca o compromisso do Google em corrigir os problemas associados à IA Gemini. Pichai revela que a empresa trabalhou diligentemente para lidar com as « respostas textuais e visuais problemáticas » no aplicativo Gemini. Evitando afirmar que os problemas foram totalmente resolvidos, Pichai reconhece as imperfeições da IA, especialmente nesta fase inicial do desenvolvimento da indústria.

Você pode ler abaixo a nota completa de Sundar Pichai aos funcionários do Google:

Olá a todos. Quero abordar os recentes problemas com as respostas textuais e visuais problemáticas no aplicativo Gemini (anteriormente Bard). Sei que algumas de suas respostas ofenderam nossos usuários e demonstraram parcialidade — para ser claro, isso é totalmente inaceitável e nós erramos.

Nossas equipes trabalharam 24 horas por dia para resolver esses problemas. Já estamos vendo uma melhora substancial em uma ampla gama de consultas. Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e persistiremos pelo tempo que for necessário. E vamos examinar o que aconteceu e garantir que corrigiremos o problema em grande escala.

Nossa missão de organizar as informações mundiais e torná-las universalmente acessíveis e úteis é sagrada. Sempre nos esforçamos para fornecer aos usuários informações úteis, precisas e imparciais em nossos produtos. É por isso que as pessoas confiam neles. Essa deve ser nossa abordagem para todos os nossos produtos, incluindo nossos produtos emergentes de IA.

Vamos implementar um conjunto de ações claras, incluindo mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e exercícios de red-teaming, bem como recomendações técnicas. Estamos analisando tudo isso e faremos as mudanças necessárias.

Embora aprendamos com o que deu errado aqui, também devemos capitalizar os anúncios de produtos e os anúncios técnicos que fizemos na área de IA nas últimas semanas. Isso inclui alguns avanços fundamentais em nossos modelos subjacentes, por exemplo, nosso avanço na janela de contexto de um milhão de tokens e nossos modelos abertos, que foram bem recebidos.

Sabemos o que é preciso para criar excelentes produtos usados e apreciados por bilhões de pessoas e empresas, e com nossa infraestrutura e expertise em pesquisa, temos uma plataforma formidável para a onda de IA. Vamos nos concentrar no que mais importa: criar produtos úteis que mereçam a confiança de nossos usuários.