Eightfold processada por suposta avaliação secreta de candidatos

• Uma ação coletiva proposta na Califórnia alega que as ferramentas de IA da Eightfold avaliaram secretamente candidatos e violaram leis de proteção ao consumidor.
• O caso destaca preocupações mais amplas sobre transparência algorítmica e responsabilidade legal em sistemas de recrutamento automatizados.

O que aconteceu

A plataforma de recrutamento com IAEightfold AIé alvo de umaação coletiva proposta na Califórniaalegando que ajudou empregadores a avaliar e pontuar candidatos a emprego sem seu conhecimento ou consentimento, segundo um relatório da Reuters. A queixa foi apresentada em nome de dois candidatos a emprego que afirmam que as ferramentas da Eightfold geraram perfis detalhados e previsões sobre as perspectivas de emprego dos candidatos — incluindo traços de personalidade e classificação de treinamentos — sem dar aos candidatos aviso ou oportunidade de contestar imprecisões.

Os autores sustentam que essa prática violou oFair Credit Reporting Act (FCRA)e a lei californiana de proteção ao consumidor, que regulam como as informações usadas em decisões de contratação devem ser divulgadas e permitem que os indivíduos examinem e contestem os dados usados contra eles. Eles afirmam que as avaliações de IA da Eightfold funcionavam como "relatórios de crédito" mas sem a transparência e os direitos de contestação exigidos por lei.

A plataforma da Eightfold é usada por muitos grandes empregadores — incluindo Microsoft e PayPal — para filtrar candidatos e prever sua adequação aos cargos. No entanto, nem Microsoft nem PayPal são réus no processo, e a Eightfold não respondeu publicamente a pedidos de comentário no momento da publicação do relatório.

A queixa descreve a triagem tradicional de currículos aumentada por modelos de IA que compilam vastas fontes de dados para gerar classificações e inferências sobre a futura trajetória profissional de um candidato. Os autores alegam que muitos candidatos qualificados, incluindo aqueles com experiência significativa e diplomas avançados, foram rejeitados e acreditam que a pontuação por IA pode ter desempenhado um papel.

Leia também:https://btw.media/en/alltech-trends/ai/hbm4-production-set-to-begin-as-nvidias-next-gen-ai-memory-race-heats-up/

Por que isso é importante

O processo Eightfold destaca um desconforto crescente sobre como a IA e sistemas automatizados são usados em decisões de emprego. As ferramentas de recrutamento automatizadas se multiplicaram em todos os setores, prometendo eficiência e redução de preconceitos, mas sua natureza opaca pode dificultar que os candidatos entendam as decisões que afetam suas carreiras. Especialistas alertam que quando modelos de IA exploram dados externos e algoritmos proprietários, torna-se mais difícil verificar a precisão ou contestar resultados injustos.

Os reguladores estão cada vez mais focados nessa interseção entre tecnologia e direito. Por exemplo, aLei Local 144da cidade de Nova York exige que os empregadores divulguem quando ferramentas de decisão automatizadas são usadas e as auditem para detectar preconceitos, refletindo uma tendência global mais ampla em direção a regulamentações mais rigorosas de IA na contratação.

Os críticos argumentam que, sem estruturas legais claras e aplicação rigorosa, os candidatos podem enfrentar barreiras invisíveis reforçadas pela IA. Se o processo for bem-sucedido, poderá impor maior transparência e responsabilidade às plataformas de recrutamento de IA e remodelar a forma como essas ferramentas são implantadas.

No entanto, os defensores da tecnologia de recrutamento de IA afirmam que a automação pode reduzir preconceitos humanos e melhorar a eficiência. O caso Eightfold levanta uma questão crucial: as ferramentas de IA que influenciam decisões de emprego que mudam a vida deveriam estar sujeitas às mesmas garantias legais que os sistemas de avaliação tradicionais?

À medida que a IA continua a se expandir no recrutamento e além, este processo pode se tornar um barômetro de como os sistemas jurídicos equilibram tecnologias de ponta com direitos individuais e equidade.

Leia também:https://btw.media/en/allit-infrastructure/singapore-shifts-ai-spend-towards-public-research-infrastructure/