Google splits up a key AI ethics watchdog

• Le principal organisme interne de surveillance éthique de l’IA de Google, RESIN, fait face à une restructuration.
• La restructuration implique la division de l’équipe, 10 % restant dans RESIN et 90 % étant transférés à la confiance et sécurité, soulignant l’engagement de Google pour des pratiques éthiques en IA.
• Des membres influents, dont Jen Gennai et Sara Tangdall, ont quitté RESIN ce mois-ci, suscitant des questions sur l’avenir de la surveillance de l’IA chez Google.

Dans la récente communication de Sundar Pichai sur les priorités de Google pour 2024, le développement responsable de l’IA a pris le devant. Cependant, des inquiétudes sont apparues parmi les employés quant à la capacité de l’entreprise à atteindre cet objectif. L’organisme de surveillance éthique interne, l’équipe d’innovation responsable de Google (RESIN), est en cours de restructuration suite au départ soudain de sa dirigeante et fondatrice, Jen Gennai, soulevant des incertitudes quant au rôle futur de RESIN. Malgré cela, Google assure que le travail de RESIN se poursuivra sous une forme renforcée, soulignant l’engagement de l’entreprise en faveur d’une IA responsable.

RESIN est de plus en plus vitale avec la croissance de l’IA générative

RESIN, hébergée au sein du Bureau de la conformité et de l’intégrité dans la division des affaires mondiales, a joué un rôle crucial dans l’examen des projets internes pour s’assurer du respect des principes d’IA de Google. Cette responsabilité est devenue de plus en plus critique alors que Google est en concurrence dans le domaine en évolution rapide de l’IA générative. L’équipe a effectué plus de 500 examens l’année dernière, contribuant de manière significative à l’engagement de Google en faveur de pratiques éthiques en IA.

Avec le départ de Jen Gennai, le sort de RESIN semble incertain, poussant Google à diviser l’équipe d’environ 30 personnes. Alors que 10 % resteront au sein de RESIN, la majorité, soit 90 %, a été transférée à la division confiance et sécurité, axée sur la lutte contre les abus des services Google. Il est important de noter qu’aucun licenciement n’a été signalé, et le porte-parole de Google, Brian Gabriel, souligne que la restructuration témoigne d’un engagement en faveur du développement responsable de l’IA. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Lire aussi: Le X Lab de Google fait face à une restructuration en raison de difficultés financières

Les détails de la restructuration manquent de transparence

Malgré ces assurances, les détails sur les raisons de la restructuration et la manière dont les responsabilités seront réparties restent confidentiels. Ce manque de transparence a laissé les employés dans l’incertitude quant à la gestion future des examens des principes d’IA. Gabriel a refusé de fournir des précisions sur la manière dont le travail de RESIN sera géré à l’avenir, mais affirme que le remaniement vise à intégrer les efforts d’IA responsable dans les initiatives de confiance et de sécurité bien établies de Google, renforçant et élargissant ainsi l’innovation responsable dans toute l’entreprise. Voir aussi: Association ECHOES.

Google est connu pour remanier fréquemment ses rangs, mais RESIN est restée largement inchangée depuis sa création. Bien que d’autres équipes, et des centaines de personnes supplémentaires, travaillent sur la surveillance de l’IA chez Google, RESIN était la plus importante, avec un mandat couvrant tous les services principaux de Google. Voir aussi: Département IT - Athlok.

En plus du départ de sa dirigeante, Gennai, RESIN a également vu l’une de ses membres les plus influentes, Sara Tangdall, spécialiste principale de l’éthique des principes d’IA, partir ce mois-ci. Elle est désormais directrice de produit IA responsable chez Salesforce, selon son profil LinkedIn. Tangdall a refusé de commenter et Gennai n’a pas répondu aux appels à commentaires. Voir aussi: Alejandro Estua.