Le PDG de Google juge les erreurs de Gemini « totalement inacceptables »

« Le PDG de Google déclare que les erreurs de Gemini sont totalement inacceptables » est profilé par BTW Media car des preuves publiées le lient à l'infrastructure internet, à la gouvernance, aux dépendances opérationnelles ou à la visibilité du marché.

• Le PDG de Google, Sundar Pichai, a reconnu la controverse suscitée par les résultats de son IA Gemini, après avoir constaté que le modèle d'IA produisait des descriptions historiquement inexactes.
• Google a pris des mesures la semaine dernière, suspendant temporairement la capacité de Gemini à générer des images.
• Sundar Pichai a promis de continuer à travailler pour améliorer la précision et l'équité de l'IA de Gemini.

L'IA Gemini suscite la controverse avec des résultats historiquement inexacts

Sundar Pichai, PDG de Googlea reconnu les résultats controversés de son IA Gemini, déclarant dans une note interne que les images et le texte générés ont « offensé nos utilisateurs et fait preuve de partialité ». Cette reconnaissance fait suite à la découverte que le modèle d'IA a produit des représentations historiquement inexactes, notamment des soldats allemands de l'ère nazie racialement diversifiés, des portraits non blancs des Pères fondateurs des États-Unis et des représentations erronées des propres cofondateurs de Google. Pichai souligne la gravité de la situation, marquant la première communication généralisée du PDG sur cette question.

À lire également: Gemini de Google attendu sur les téléphones Android l'année prochaine

Suspension temporaire de la génération d'images de Gemini et excuses

Google a agi la semaine dernière en suspendant temporairement la capacité de Gemini à générer des images suite à la controverse. La décision a suivi la révélation publique des résultats problématiques du modèle d'IA, suscitant de vives critiques. L'entreprise a présenté des excuses, reconnaissant que l'IA Gemini « a manqué la cible » et exprimant son engagement à résoudre les problèmes. Malgré les excuses, Google n'a pas précisé si les problèmes avaient été entièrement résolus. La décision de désactiver temporairement la fonction de génération d'images vise à atténuer l'impact des représentations biaisées et inexactes.

Assurance et engagement d'amélioration du PDG Pichai

Dans la note interne rapportée par Semafor, le PDG Sundar Pichai souligne l'engagement de Google à rectifier les problèmes associés à l'IA Gemini. Pichai révèle que l'entreprise a travaillé avec diligence pour traiter les « réponses textuelles et visuelles problématiques » dans l'application Gemini. S'abstenant d'affirmer que les problèmes ont été entièrement résolus, Pichai reconnaît les imperfections de l'IA, en particulier à ce stade précoce du développement de l'industrie.

Vous pouvez lire ci-dessous la note complète de Sundar Pichai aux employés de Google:

Bonjour à tous. Je souhaite aborder les récents problèmes concernant les réponses textuelles et visuelles problématiques dans l'application Gemini (anciennement Bard). Je sais que certaines de ses réponses ont offensé nos utilisateurs et fait preuve de partialité — pour être clair, c'est totalement inacceptable et nous nous sommes trompés.

Nos équipes ont travaillé 24 heures sur 24 pour résoudre ces problèmes. Nous constatons déjà une amélioration substantielle sur un large éventail de requêtes. Aucune IA n'est parfaite, surtout à ce stade émergent du développement de l'industrie, mais nous savons que la barre est haute pour nous et nous persévérerons aussi longtemps qu'il le faudra. Et nous examinerons ce qui s'est passé et veillerons à corriger le problème à grande échelle.

Notre mission d'organiser l'information mondiale et de la rendre universellement accessible et utile est sacro-sainte. Nous avons toujours cherché à fournir aux utilisateurs des informations utiles, précises et impartiales dans nos produits. C'est pourquoi les gens leur font confiance. Telle doit être notre approche pour tous nos produits, y compris nos produits d'IA émergents.

Nous allons mettre en œuvre un ensemble d'actions claires, comprenant des changements structurels, des directives produits actualisées, des processus de lancement améliorés, des évaluations robustes et des exercices de red-teaming, ainsi que des recommandations techniques. Nous examinons tout cela et apporterons les changements nécessaires.

Tout en apprenant de ce qui n'a pas fonctionné ici, nous devons également capitaliser sur les annonces de produits et les annonces techniques que nous avons faites dans le domaine de l'IA au cours des dernières semaines. Cela inclut certaines avancées fondamentales dans nos modèles sous-jacents, par exemple notre percée de la fenêtre de contexte d'un million de tokens et nos modèles ouverts, qui ont tous deux été bien accueillis.

Nous savons ce qu'il faut pour créer d'excellents produits utilisés et appréciés par des milliards de personnes et d'entreprises, et grâce à notre infrastructure et à notre expertise en recherche, nous disposons d'un formidable tremplin pour la vague de l'IA. Concentrons-nous sur ce qui importe le plus: créer des produits utiles qui méritent la confiance de nos utilisateurs.