- Un recours collectif proposé en Californie allègue que les outils d'IA d'Eightfold ont évalué secrètement des candidats et violé les lois sur la protection des consommateurs.
- L'affaire met en lumière des préoccupations plus larges concernant la transparence algorithmique et la responsabilité juridique dans les systèmes de recrutement automatisés.
Ce qui s'est passé
La plateforme de recrutement IA Eightfold AI fait l'objet d'un recours collectif proposé en Californie alléguant qu'elle a aidé les employeurs à évaluer et noter les candidats à l'emploi à leur insu ou sans leur consentement, selon un rapport de Reuters. La plainte a été déposée au nom de deux demandeurs d'emploi qui affirment que les outils d'Eightfold ont généré des profils détaillés et des prédictions sur les perspectives d'emploi des candidats — y compris les traits de personnalité et le classement des formations — sans donner aux candidats un avis ou une possibilité de contester les inexactitudes.
Les plaignants soutiennent que cette pratique a violé le Fair Credit Reporting Act (FCRA) et la loi californienne sur la protection des consommateurs, qui régissent la manière dont les informations utilisées dans les décisions d'embauche doivent être divulguées et permettent aux individus d'examiner et de contester les données utilisées contre eux. Ils affirment que les évaluations d'IA d'Eightfold fonctionnaient comme des « rapports de solvabilité » mais sans la transparence et les droits de contestation requis par la loi.
La plateforme d'Eightfold est utilisée par de nombreux grands employeurs — dont Microsoft et PayPal — pour filtrer les candidats et prédire leur adéquation aux postes. Cependant, ni Microsoft ni PayPal ne sont défendeurs dans le procès, et Eightfold n'avait pas répondu publiquement aux demandes de commentaires au moment de la publication du rapport.
La plainte décrit le filtrage traditionnel des CV augmenté par des modèles d'IA qui compilent de vastes sources de données pour générer des classements et des inférences sur la future trajectoire professionnelle d'un candidat. Les plaignants allèguent que de nombreux candidats qualifiés, y compris ceux ayant une expérience significative et des diplômes avancés, ont été rejetés et pensent que la notation par IA pourrait avoir joué un rôle.
Pourquoi c'est important
Le procès Eightfold souligne un malaise croissant quant à la manière dont l'IA et les systèmes automatisés sont utilisés dans les décisions d'emploi. Les outils de recrutement automatisés se sont multipliés dans tous les secteurs, promettant efficacité et réduction des préjugés, mais leur nature opaque peut rendre difficile pour les candidats de comprendre les décisions qui affectent leur carrière. Les experts avertissent que lorsque les modèles d'IA exploitent des données externes et des algorithmes propriétaires, il devient plus difficile de vérifier l'exactitude ou de contester des résultats injustes.
Les régulateurs se concentrent de plus en plus sur cette intersection entre technologie et droit. Par exemple, la loi locale 144 de la ville de New York exige que les employeurs divulguent quand des outils de décision automatisés sont utilisés et qu'ils les auditent pour détecter les préjugés, reflétant une tendance mondiale plus large vers une réglementation plus stricte de l'IA dans le recrutement.
Les critiques soutiennent que sans cadres juridiques clairs et une application rigoureuse, les candidats peuvent se heurter à des barrières invisibles renforcées par l'IA. Si le procès aboutit, il pourrait imposer une plus grande transparence et responsabilité aux plateformes de recrutement par IA et remodeler la manière dont ces outils sont déployés.
Pourtant, les partisans de la technologie de recrutement par IA affirment que l'automatisation peut réduire les préjugés humains et améliorer l'efficacité. L'affaire Eightfold soulève une question cruciale: les outils d'IA qui influencent des décisions d'emploi déterminantes pour la vie devraient-ils être soumis aux mêmes garanties juridiques que les systèmes d'évaluation traditionnels ?
Alors que l'IA continue de s'étendre dans le recrutement et au-delà, ce procès pourrait devenir un baromètre de la manière dont les systèmes juridiques concilient les technologies de pointe avec les droits individuels et l'équité.
Lire aussi: https://btw.media/en/allit-infrastructure/singapore-shifts-ai-spend-towards-public-research-infrastructure/