CEO do Google diz que erros do Gemini são ‘completamente inaceitáveis’

CEO do Google diz que erros do Gemini são ‘completamente inaceitáveis’ é perfilado pela BTW Media porque evidências publicadas o ligam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• O CEO do Google, Sundar Pichai, reconheceu a polêmica sobre os resultados da IA Gemini, após descobrir que o modelo de IA produziu descrições historicamente imprecisas.
• Na semana passada, o Google tomou medidas, suspendendo temporariamente a capacidade do Gemini de gerar imagens.
• Sundar Pichai prometeu continuar trabalhando para melhorar a precisão e a imparcialidade da IA do Gemini.

IA Gemini gera polêmica com resultados historicamente imprecisos

CEO Sundar Pichaido Google reconheceu os resultados polêmicos de sua IA Gemini, afirmando em um memorando interno que as imagens e textos gerados “ofenderam nossos usuários e demonstraram viés”. O reconhecimento ocorre em resposta à descoberta de que o modelo de IA produziu representações historicamente imprecisas, incluindo soldados alemães da era nazista racialmente diversos, representações não brancas dos Pais Fundadores dos EUA e distorções dos próprios co-fundadores do Google. Pichai aborda a gravidade da situação, marcando a primeira comunicação generalizada do CEO sobre o assunto.

Leia também: Gemini do Google deve chegar em celulares Android no próximo ano

Suspensão temporária da geração de imagens do Gemini e pedido de desculpas

Na semana passada, o Google tomou medidas ao suspender temporariamente a capacidade do Gemini de gerar imagens após a polêmica. A decisão ocorreu após a revelação pública dos resultados problemáticos do modelo de IA, gerando críticas generalizadas. A empresa emitiu um pedido de desculpas, reconhecendo que a IA Gemini “não atendeu às expectativas” e expressando seu compromisso em resolver os problemas. Apesar do pedido de desculpas, o Google não especificou se os problemas foram totalmente resolvidos. A decisão de desativar temporariamente o recurso de geração de imagens visa mitigar o impacto de representações tendenciosas e imprecisas.

Garantia e compromisso do CEO Pichai com a melhoria

No memorando interno relatado pelo Semafor, o CEO Sundar Pichai enfatiza a dedicação do Google em corrigir os problemas associados à IA Gemini. Pichai revela que a empresa vem trabalhando diligentemente para abordar as “respostas problemáticas de texto e imagem” no aplicativo Gemini. Embora evite afirmar que os problemas foram completamente resolvidos, Pichai reconhece as imperfeições da IA, particularmente neste estágio inicial do desenvolvimento do setor.

Você pode ler o memorando completo de Sundar Pichai para os funcionários do Google abaixo:

Olá a todos. Gostaria de abordar os recentes problemas com respostas de texto e imagem problemáticas no aplicativo Gemini (anteriormente Bard). Sei que algumas de suas respostas ofenderam nossos usuários e demonstraram viés — para ser claro, isso é completamente inaceitável e nós erramos.

Nossas equipes têm trabalhado sem parar para resolver esses problemas. Já estamos vendo uma melhora substancial em uma ampla gama de prompts. Nenhuma IA é perfeita, especialmente neste estágio emergente do desenvolvimento do setor, mas sabemos que o padrão é alto para nós e continuaremos pelo tempo que for necessário. E iremos revisar o que aconteceu e garantir que corrigimos em escala.

Nossa missão de organizar as informações do mundo e torná-las universalmente acessíveis e úteis é sacrossanta. Sempre buscamos fornecer aos usuários informações úteis, precisas e imparciais em nossos produtos. É por isso que as pessoas confiam neles. Esta deve ser nossa abordagem para todos os nossos produtos, incluindo nossos produtos emergentes de IA.

Estaremos implementando um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e red-teaming, e recomendações técnicas. Estamos analisando tudo isso e faremos as mudanças necessárias.

Mesmo enquanto aprendemos com o que deu errado aqui, devemos também construir com base nos anúncios de produto e técnicos que fizemos em IA nas últimas semanas. Isso inclui alguns avanços fundamentais em nossos modelos subjacentes, como nosso avanço de janela de contexto de 1 milhão de tokens e nossos modelos abertos, ambos bem recebidos.

Sabemos o que é necessário para criar ótimos produtos que são usados e amados por bilhões de pessoas e empresas e, com nossa infraestrutura e experiência em pesquisa, temos uma plataforma incrível para a onda da IA. Vamos focar no que é mais importante: criar produtos úteis que mereçam a confiança dos nossos usuários.