Google suspende função de geração de imagens do modelo Gemini AI

Google suspends Gemini AI model’s image generation function é um perfil da BTW Media porque evidências publicadas o vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• O Google está resolvendo problemas com a função de geração de imagens do seu modelo Gemini AI, pausando a geração de imagens de personagens e planejando um lançamento aprimorado.
• Reclamações sobre imprecisões na geração de imagens do Gemini, incluindo representações incorretas em contextos históricos, surgiram nas redes sociais.
• Apesar do progresso no combate ao viés racial, o modelo Gemini AI do Google enfrenta críticas por correção excessiva, destacadas pela sua relutância em exibir certas imagens e sua recente atualização para o Gemini 1.5 em meio à concorrência do Sora da OpenAI.

Googleanunciou na quinta-feira que está trabalhando para resolver problemas recentes com a função de geração de imagens do modeloGeminiAI, pausando a geração de imagens de personagens e planejando relançar uma versão aprimorada em breve. No dia anterior, o Google pediu desculpas, reconhecendo imprecisões em certas descrições históricas de geração de imagens pelo modelo grande Gemini e se esforçando para melhorar.

Há representações incorretas em contextos históricos

Reclamações foram feitas recentemente nas redes sociais sobre a função de conversão de texto em imagem do Gemini, como mulheres e pessoas de cor aparecendo em imagens com o tema ‘pai fundador americano George Washington’, o que é incorreto. Além disso, quando os usuários pediam ao Gemini para gerar soldados alemães nazistas, o Gemini produzia fotos de mulheres negras, asiáticas e brancas vestindo uniformes militares nazistas.
Usuários também reclamaram que o Gemini não exibiria imagens de pessoas brancas. Quando solicitado a exibir a foto de uma pessoa branca, o Gemini disse que não poderia atender a essa solicitação. No entanto, quando solicitado a mostrar imagens de pessoas negras, o Gemini sugeriu exibir imagens ‘celebrando a diversidade e as conquistas das pessoas negras’. Quando solicitado a mostrar imagens celebrando a diversidade e as conquistas brancas, o Gemini disse que estava ‘hesitante’ em atender a essa solicitação.

A análise sugere que isso pode ser uma correção excessiva de problemas de viés racial de longa data no campo da IA, refletindo a busca do Google pelo ‘multiculturalismo’. Em comparação com modelos de IA anteriores, o Gemini fez progressos significativos na abordagem de questões de viés racial, mas o problema é ‘exagerado’.

O Gemini é o maior e mais poderoso modelo multimodal de IA do Google. Na semana passada, a empresa lançou o modelo de IA de última geração Gemini 1.5, que representa um avanço significativo em relação ao Gemini 1.0 lançado em dezembro do ano passado.

Leia também:OpenAI cura a ‘preguiça’ do GPT-4 com novas atualizações

Gemini não atinge o objetivo

O diretor sênior de produtos do Google para o Gemini, Jack Krawczyk, afirmou que os recursos de geração de imagens da empresa refletem a ‘base global de usuários’ dessa gigante da tecnologia, e que ela leva a sério a representação e o viés. ‘A geração de imagens do Gemini realmente alcança um público amplo, o que geralmente é algo bom, porque pessoas do mundo todo estão usando, mas ela não atinge o objetivo.’

No início deste mês, o Google começou a oferecer serviços de geração de imagens por meio do Gemini, mas o lançamento da nova ferramenta Sora foi um golpe para o Google, que tenta alcançar aOpenAI, apoiada pelaMicrosoft. O Sora pode gerar vídeos contínuos de 60 segundos com base apenas em prompts, impressionando toda a indústria de tecnologia. O Sora da OpenAI não apenas apresenta detalhes com precisão, mas também entende a existência de entidades no mundo físico, seja nos visuais, profundidade de campo, movimentos de câmera ou até mesmo microexpressões humanas e expressões de animais, tudo já convincentemente realista.