• Les AI Overviews de Google fournissent des informations non fiables, voire potentiellement dangereuses, aux utilisateurs.
  • Google a apporté des améliorations techniques pour résoudre le problème, mais les limitations inhérentes aux systèmes d'IA persistent.
  • L'entreprise continuera à l'améliorer, mais elle ne pourra jamais être précise à 100 %, c'est pourquoi le géant de la technologie ne cherche pas à afficher les AI Overviews pour des sujets explicites ou dangereux.

NOTRE AVIS
Bien que les AI Overviews aident les utilisateurs à obtenir la réponse en un temps plus court, on ne peut leur faire entièrement confiance en raison de leurs erreurs potentielles. Il est donc important de garder un esprit critique lors de leur utilisation.
–Audrey Huang, journaliste BTW

Alors que les AI Overviews de Google simplifient les résultats de recherche, elles génèrent également de la désinformation. Par conséquent, l'entreprise a apporté des améliorations techniques.

Comment fonctionnent les AI Overviews?

AI Overviews utilise un nouveau modèle d'IA générative de Gemini, la famille degrands modèles de langage(LLMs) de Google. Le modèle a été intégré aux systèmes de classement web de base de Google et conçu pour rechercher des résultats pertinents dans son index de sites web.

À lire aussi:Elon Musk affirme que l'IA remplacera tous nos emplois

À lire aussi:Fausses informations et désinformation par l'IA exposées aux jeunes électeurs sur TikTok

Pourquoi cela génère-t-il des erreurs?

« Le grand modèle de langage génère un langage fluide basé sur les sources fournies, mais un langage fluide n'est pas synonyme d'informations correctes », explique Suzan Verberne, professeure à l'Université de Leyde spécialisée dans letraitement automatique du langage naturel. Plus un sujet est spécifique, plus le risque de désinformation dans la sortie d'un grand modèle de langage est élevé, souligne-t-elle: « C'est un problème dans le domaine médical, mais aussi dans l'éducation et la science. »

Comment résoudre le problème?

Google a déclaré qu'il ajoutait des restrictions de déclenchement pour les requêtes où les AI Overviews ne s'avéraient pas particulièrement utiles et a ajouté des « perfectionnements de déclenchement » supplémentaires pour les requêtes liées à la santé. L'entreprise pourrait ajouter une étape au processus de recherche d'informations conçue pour empêcher une requête risquée et amener le système à refuser de générer une réponse dans ces cas, indique Mme Verberne.

De plus, des techniques telles que l'apprentissage par renforcement à partir de retours humains, qui intègrent ces retours dans la formation d'un LLM, peuvent également contribuer à améliorer la qualité de ses réponses.