Por que as AI Overviews do Google frequentemente erram

O artigo 'Por que as AI Overviews do Google frequentemente erram' é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• A AI Overviews do Google está fornecendo informações não confiáveis e até mesmo potencialmente prejudiciais aos usuários.
• O Google vem fazendo melhorias técnicas para corrigir o problema, mas limitações inerentes dos sistemas de IA permanecem.
• Como a empresa continuará melhorando, ela nunca poderá ser 100% precisa, então a gigante da tecnologia não pretende mostrar a AI Overviews para tópicos explícitos ou perigosos.

NOSSA OPINIÃO
Embora a AI Overviews ajude os usuários a encontrar a resposta em menos tempo, ela não pode ser totalmente confiável devido a possíveis erros. Portanto, é importante manter o pensamento crítico ao usá-la.
–Audrey Huang, repórter da BTW

À medida que a AI Overviews do Google simplifica os resultados de pesquisa, ela também gera desinformação. Portanto, a empresa vem fazendo melhorias técnicas.

Como funciona a AI Overviews?

A AI Overviews usa um novo modelo de IA generativa no Gemini, a família de grandes modelos de linguagem (LLMs) do Google. O modelo foi integrado aos sistemas principais de classificação web do Google e projetado para buscar resultados relevantes em seu índice de sites.

Leia também:Elon Musk diz que a IA substituirá todos os nossos empregos

Leia também:Falsificações de IA e desinformação expostas a jovens eleitores no TikTok

Por que ela cometeria erros?

“O modelo de linguagem grande gera linguagem fluente com base nas fontes fornecidas, mas linguagem fluente não é o mesmo que informação correta”, diz Suzan Verberne, professora da Universidade de Leiden que se especializa em processamento de linguagem natural. Quanto mais específico for um tópico, maior a chance de desinformação na saída de um modelo de linguagem grande, ela diz, apontando: “Isso é um problema no domínio médico, mas também na educação e na ciência.”

Como resolver o problema?

O Google disse que está adicionando restrições de acionamento para consultas onde a AI Overviews não estava sendo especialmente útil e adicionou “refinamentos de acionamento” adicionais para consultas relacionadas à saúde. A empresa poderia adicionar uma etapa ao processo de recuperação de informações projetada para evitar uma consulta arriscada e fazer com que o sistema se recuse a gerar uma resposta nesses casos, diz Verberne. Além disso, técnicas como aprendizado por reforço com feedback humano, que incorpora esse feedback no treinamento de um LLM, também podem contribuir para melhorar a qualidade de suas respostas.