• As AI Overviews do Google fornecem informações não confiáveis, ou até potencialmente perigosas, aos usuários.
  • O Google fez melhorias técnicas para resolver o problema, mas as limitações inerentes aos sistemas de IA persistem.
  • A empresa continuará a melhorá-lo, mas nunca poderá ser 100% precisa, e é por isso que a gigante da tecnologia não exibe as AI Overviews para tópicos explícitos ou perigosos.

NOSSA OPINIÃO
Embora as AI Overviews ajudem os usuários a obter a resposta em menos tempo, não se pode confiar totalmente nelas devido aos seus possíveis erros. Portanto, é importante manter o pensamento crítico ao usá-las.
–Audrey Huang, jornalista da BTW

Enquanto as AI Overviews do Google simplificam os resultados de busca, elas também geram desinformação. Consequentemente, a empresa fez melhorias técnicas.

Como funcionam as AI Overviews?

A AI Overviews usa um novo modelo de IA generativa da Gemini, a família degrandes modelos de linguagem(LLMs) do Google. O modelo foi integrado aos sistemas de classificação web básicos do Google e projetado para buscar resultados relevantes em seu índice de sites.

Leia também:Elon Musk afirma que a IA substituirá todos os nossos empregos

Leia também:Informações falsas e desinformação por IA expostas a jovens eleitores no TikTok

Por que isso gera erros?

« O grande modelo de linguagem gera uma linguagem fluente com base nas fontes fornecidas, mas linguagem fluente não é sinônimo de informações corretas », explica Suzan Verberne, professora da Universidade de Leiden especializada emprocessamento de linguagem natural. Quanto mais específico é um tópico, maior o risco de desinformação na saída de um grande modelo de linguagem, ela destaca: « É um problema na área médica, mas também na educação e na ciência. »

Como resolver o problema?

O Google afirmou que estava adicionando restrições de acionamento para consultas onde as AI Overviews não eram particularmente úteis e adicionou « aperfeiçoamentos de acionamento » adicionais para consultas relacionadas à saúde. A empresa poderia adicionar uma etapa ao processo de busca de informações projetada para evitar uma consulta arriscada e fazer o sistema se recusar a gerar uma resposta nesses casos, indica a Sra. Verberne. Além disso, técnicas como aprendizado por reforço a partir de feedback humano, que incorporam esse feedback no treinamento de um LLM, também podem ajudar a melhorar a qualidade de suas respostas.