Google CEO publicly acknowledges Gemini AI diversity errors

• Les images et textes historiquement inexacts générés par l'IA Gemini de Google ont offensé ses utilisateurs et montré des biais.
• Google travaille activement à rectifier les problèmes de Gemini, notant des progrès dans l'amélioration des garde-fous de l'outil pour éviter de tels incidents à l'avenir.
• Google s'engage à fournir aux utilisateurs des informations précises, utiles et impartiales à travers tous ses produits, y compris les innovations en IA.

Dans le sillage de la controverse autour de Gemini concernant l'application d'IA de Google, le PDG Sundar Pichai a publiquement reconnu les réponses problématiques générées par l'outil et s'est engagé à apporter des changements structurels significatifs pour résoudre les problèmes. L'outil de création d'images Gemini a été temporairement suspendu après avoir produit des résultats offensants et embarrassants, comme l'omission de représentations de personnes blanches ou l'insertion d'images de femmes et de personnes de couleur dans des contextes inappropriés comme les Vikings, les nazis et le pape.

Controverses autour de Gemini

La situation s'est aggravée lorsque Gemini a commencé à générer des réponses textuelles douteuses, notamment en établissant des parallèles entre Elon Musk et Adolf Hitler, suscitant des critiques de divers horizons, en particulier des conservateurs qui ont accusé Google de faire preuve de partialité envers les personnes blanches. Cet incident souligne l'importance cruciale de mettre en œuvre des garde-fous et des mesures pour prévenir les biais et garantir une utilisation responsable de l'IA, d'autant plus que des inquiétudes similaires ont déjà été soulevées dans l'industrie.

Sundar Pichai a souligné que l'entreprise travaille activement à rectifier les problèmes de Gemini, notant des progrès dans l'amélioration des garde-fous de l'outil pour éviter de tels incidents à l'avenir. Pichai a réaffirmé l'engagement de Google à fournir aux utilisateurs des informations précises, utiles et impartiales à travers tous ses produits, y compris les innovations en IA. Voir aussi: La FCC soutient les constructeurs de fibre avec des limites de permis.

Tout en reconnaissant les imperfections inhérentes aux technologies d'IA, Pichai a présenté une feuille de route pour des actions complètes visant à relever les défis actuels, comprenant des réformes structurelles, des directives mises à jour, des processus d'évaluation améliorés et des améliorations techniques. Voir aussi: Ofcom révèle les lacunes de couverture mobile sur les trains britanniques.

À lire aussi: Google Gemini attendu sur les téléphones Android l'année prochaine

Engagement de Google à résoudre les problèmes

La débâcle de Gemini a suscité des débats sur les erreurs techniques dans le raffinement des modèles d'IA plutôt que sur des biais intentionnels au sein de Google. L'accent s'est déplacé vers l'amélioration des garde-fous logiciels pour réguler efficacement les sorties de l'IA. Ce problème reflète un défi plus large de l'industrie auquel sont confrontées les entreprises développant des applications d'IA grand public, soulignant la nécessité de mécanismes de gouvernance robustes. Voir aussi: Robert Neuwirth.

Les critiques de droite ont saisi la controverse Gemini comme une preuve de biais libéral dans les entreprises technologiques, mais les experts du secteur suggèrent que la cause profonde réside dans une erreur de surveillance technique plutôt que dans une manipulation délibérée. L'incident rappelle le rythme rapide de l'innovation dans le domaine de l'IA, poussant des entreprises comme Google à accélérer leurs efforts de développement de produits et à donner la priorité à la correction des erreurs pour maintenir leur crédibilité. Voir aussi: L'UE réécrit les règles de souveraineté de l'infrastructure IA.

À lire aussi: Google suspend la fonction de génération d'images du modèle IA Gemini

Maintenir un déploiement responsable de l'IA

Bien que les aspects techniques de l'incident Gemini soient jugés réparables, les répercussions sur la réputation de Google pourraient poser un défi plus important. La réponse de Pichai souligne l'engagement de l'entreprise à traiter le problème rapidement, mais rétablir la confiance et la réputation au sein de l'industrie nécessitera des efforts soutenus et de la transparence à l'avenir. Voir aussi: L'UE évince les opérateurs satellites américains du spectre.