Google CEO says Gemini errors are ‘completely unacceptable’

• Le PDG de Google, Sundar Pichai, a reconnu la controverse concernant les résultats de son IA Gemini, après qu'il a été constaté que le modèle d'IA produisait des descriptions historiquement inexactes.
• Google a pris des mesures la semaine dernière, suspendant temporairement la capacité de Gemini à générer des images.
• Sundar Pichai a promis de continuer à travailler pour améliorer l'exactitude et l'équité de l'IA de Gemini.

L'IA Gemini suscite une polémique avec des résultats historiquement inexacts

le PDG Sundar Pichai de Google a reconnu les résultats controversés de son IA Gemini, déclarant dans un mémo interne que les images et les textes générés ont « offensé nos utilisateurs et montré un parti pris ». Cette reconnaissance fait suite à la découverte que le modèle d'IA a produit des représentations historiquement inexactes, notamment des soldats allemands de l'ère nazie racialement diversifiés, des portraits non blancs des Pères fondateurs américains et des représentations erronées des propres cofondateurs de Google. Pichai aborde la gravité de la situation, marquant la première communication générale du PDG sur le problème.

Lire aussi: Gemini de Google devrait arriver sur les téléphones Android l'année prochaine

Suspension temporaire de la génération d'images de Gemini et excuses

Google a pris des mesures la semaine dernière en suspendant temporairement la capacité de Gemini à générer des images à la suite de la controverse. La décision a suivi la révélation publique des résultats problématiques du modèle d'IA, suscitant de vives critiques. L'entreprise a présenté ses excuses, reconnaissant que l'IA Gemini a « manqué la cible » et exprimant son engagement à résoudre les problèmes. Malgré les excuses, Google n'a pas précisé si les problèmes ont été entièrement résolus. La décision de désactiver temporairement la fonction de génération d'images vise à atténuer l'impact des représentations biaisées et inexactes. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Assurance et engagement du PDG Pichai à s'améliorer

Dans le mémo interne rapporté par Semafor, le PDG Sundar Pichai souligne la détermination de Google à rectifier les problèmes associés à l'IA Gemini. Pichai révèle que l'entreprise a travaillé avec diligence pour traiter les « réponses textes et images problématiques » dans l'application Gemini. Tout en s'abstenant de prétendre que les problèmes ont été complètement résolus, Pichai reconnaît les imperfections de l'IA, en particulier à ce stade précoce du développement de l'industrie. Voir aussi: Association ECHOES.

Vous pouvez lire l'intégralité du mémo de Sundar Pichai aux employés de Google ci-dessous: Voir aussi: Département IT - Athlok.

Bonjour à tous. Je souhaite aborder les récents problèmes liés aux réponses textes et images problématiques dans l'application Gemini (anciennement Bard). Je sais que certaines de ses réponses ont offensé nos utilisateurs et montré un parti pris — pour être clair, c'est totalement inacceptable et nous avons fait une erreur. Voir aussi: Alejandro Estua.

Nos équipes ont travaillé sans relâche pour résoudre ces problèmes. Nous constatons déjà une amélioration substantielle sur un large éventail de requêtes. Aucune IA n'est parfaite, surtout à ce stade émergent du développement de l'industrie, mais nous savons que la barre est haute pour nous et nous persévérerons aussi longtemps qu'il le faudra. Et nous examinerons ce qui s'est passé et nous assurerons de le corriger à grande échelle. Voir aussi: Alejandro Manzo.

Notre mission d'organiser l'information mondiale et de la rendre universellement accessible et utile est sacro-sainte. Nous avons toujours cherché à fournir aux utilisateurs des informations utiles, exactes et impartiales dans nos produits. C'est pourquoi les gens leur font confiance. Cela doit être notre approche pour tous nos produits, y compris nos produits d'IA émergents. Voir aussi: Alejandro Hernandez.

Nous allons mettre en œuvre un ensemble d'actions claires, comprenant des changements structurels, des directives produits actualisées, des processus de lancement améliorés, des évaluations robustes et des équipes rouges, ainsi que des recommandations techniques. Nous examinons tout cela et apporterons les changements nécessaires. Voir aussi: Alejandro Garza.

Même en apprenant de ce qui n'a pas fonctionné ici, nous devons également tirer parti des annonces de produits et techniques que nous avons faites dans l'IA au cours des dernières semaines. Cela inclut certaines avancées fondamentales dans nos modèles sous-jacents, par exemple notre percée de la fenêtre de contexte d'un million de tokens et nos modèles ouverts, qui ont tous deux été bien accueillis. Voir aussi: Alejandro Guerrero.

Nous savons ce qu'il faut pour créer d'excellents produits utilisés et appréciés par des milliards de personnes et d'entreprises, et avec notre infrastructure et notre expertise en recherche, nous avons un incroyable tremplin pour la vague de l'IA. Concentrons-nous sur ce qui compte le plus: créer des produits utiles qui méritent la confiance de nos utilisateurs.