- Una demanda colectiva propuesta en California alega que las herramientas de IA de Eightfold evaluaron a los candidatos laborales en secreto y violaron las leyes de protección al consumidor.
- El caso destaca preocupaciones más amplias sobre la transparencia algorítmica y la responsabilidad legal en los sistemas de contratación automatizados.
Qué ocurrió
La plataforma de contratación con IAEightfold AIes objeto de unademanda colectiva propuesta en Californiaque alega que ayudó a los empleadores a evaluar y calificar a los solicitantes de empleo sin su conocimiento o consentimiento, según un informe de Reuters. La demanda fue presentada en nombre de dos buscadores de empleo que afirman que las herramientas de Eightfold generaron perfiles detallados y predicciones sobre las perspectivas laborales de los solicitantes —incluyendo rasgos de personalidad y clasificaciones educativas— sin dar a los candidatos aviso ni la oportunidad de disputar inexactitudes.
Los demandantes argumentan que esta práctica violó laLey de Informe Justo de Crédito (FCRA, por sus siglas en inglés)y la ley de protección al consumidor de California, que rigen cómo la información utilizada en las decisiones de contratación debe ser divulgada y permiten que las personas revisen e impugnen los datos utilizados en su contra. Sostienen que las evaluaciones de IA de Eightfold funcionaron como “informes de consumo” pero sin la transparencia y los derechos de disputa requeridos por la ley.
La plataforma de Eightfold es utilizada por muchos grandes empleadores —incluyendo Microsoft y PayPal— para filtrar candidatos y predecir la idoneidad para los roles. Sin embargo, ni Microsoft ni PayPal son demandados en la demanda, y Eightfold no había respondido públicamente a las solicitudes de comentarios en el momento del informe.
La demanda describe la revisión tradicional de currículums aumentada por modelos de IA que compilan vastas fuentes de datos para generar clasificaciones e inferencias sobre la futura trayectoria profesional de un solicitante. Los demandantes alegan que muchos candidatos calificados, incluidos aquellos con experiencia significativa y títulos avanzados, fueron rechazados y creen que la puntuación de la IA pudo haber influido.
Por qué es importante
La demanda contra Eightfold subraya la creciente inquietud sobre cómo se utilizan la IA y los sistemas automatizados en las decisiones de empleo. Las herramientas de contratación automatizada han proliferado en todas las industrias, prometiendo eficiencia y reducción de sesgos, pero su naturaleza opaca puede dificultar que los solicitantes comprendan las decisiones que afectan sus carreras. Los expertos advierten que cuando los modelos de IA se basan en datos externos y algoritmos propietarios, se vuelve más difícil verificar la precisión o impugnar resultados injustos.
Los reguladores se centran cada vez más en esta intersección entre tecnología y derecho. Por ejemplo, laLey Local 144de la ciudad de Nueva York exige que los empleadores revelen cuándo se utilizan herramientas de decisión automatizadas y las auditen para detectar sesgos, lo que refleja una tendencia global más amplia hacia una regulación más estricta de la IA en la contratación.
Los críticos argumentan que sin marcos legales claros y aplicación, los candidatos pueden enfrentar barreras invisibles reforzadas por la IA. Si la demanda tiene éxito, podría forzar una mayor transparencia y responsabilidad en las plataformas de contratación con IA y remodelar la forma en que se implementan dichas herramientas.
Sin embargo, los defensores de la tecnología de contratación con IA afirman que la automatización puede reducir los sesgos humanos y mejorar la eficiencia. El caso Eightfold plantea una pregunta crítica: ¿deberían las herramientas de IA que influyen en decisiones de empleo que cambian la vida estar sujetas a las mismas salvaguardas legales que los sistemas de evaluación tradicionales?
A medida que la IA continúa expandiéndose en el reclutamiento y más allá, esta demanda podría convertirse en un termómetro de cómo los sistemas legales concilian la tecnología avanzada con los derechos individuales y la equidad.
Lea también:https://btw.media/en/allit-infrastructure/singapore-shifts-ai-spend-towards-public-research-infrastructure/