• Предлагаемый коллективный иск в Калифорнии утверждает, что инструменты ИИ Eightfold тайно оценивали соискателей и нарушали законы о защите прав потребителей.
  • Дело проливает свет на более широкие опасения относительно прозрачности алгоритмов и юридической ответственности в автоматизированных системах найма.

Что произошло

Платформа для найма на основе ИИEightfold AIстала объектомпредлагаемого коллективного иска в Калифорнии, в котором утверждается, что она помогала работодателям оценивать и ранжировать соискателей без их ведома или согласия, сообщает Reuters. Иск подан от имени двух соискателей, которые утверждают, что инструменты Eightfold создавали подробные профили и прогнозы о перспективах трудоустройства кандидатов — включая черты личности и рейтинг образовательных программ — без уведомления соискателей или возможности оспорить неточности.

Истцы утверждают, что эта практика нарушилаFair Credit Reporting Act (FCRA)и калифорнийский закон о защите прав потребителей, которые регулируют порядок раскрытия информации, используемой при принятии решений о найме, и позволяют людям знакомиться с этими данными и оспаривать их, если они используются против них. Они утверждают, что оценки ИИ Eightfold действовали как «кредитные отчеты», но без требуемой законом прозрачности и права на оспаривание.

Платформу Eightfold используют многие крупные работодатели, включая Microsoft и PayPal, для фильтрации кандидатов и прогнозирования их соответствия должностям. Однако ни Microsoft, ни PayPal не являются ответчиками по иску, и Eightfold на момент публикации отчета публично не ответила на запросы о комментариях.

В иске описывается традиционный отбор резюме, дополненный моделями ИИ, которые собирают большие объемы данных для создания рейтингов и выводов о будущей карьерной траектории кандидата. Истцы утверждают, что многие квалифицированные кандидаты, в том числе с большим опытом и продвинутыми дипломами, были отклонены, и считают, что оценка ИИ могла сыграть свою роль.

Читайте также:https://btw.media/en/alltech-trends/ai/hbm4-production-set-to-begin-as-nvidias-next-gen-ai-memory-race-heats-up/

Почему это важно

Иск к Eightfold подчеркивает растущую тревогу по поводу использования ИИ и автоматизированных систем в решениях о трудоустройстве. Автоматизированные инструменты найма распространились во всех отраслях, обещая эффективность и снижение предвзятости, но их непрозрачный характер может затруднить кандидатам понимание решений, влияющих на их карьеру. Эксперты предупреждают, что когда модели ИИ используют внешние данные и проприетарные алгоритмы, становится сложнее проверить точность или оспорить несправедливые результаты.

Регуляторы все больше внимания уделяют пересечению технологий и права. Например,местный закон 144города Нью-Йорка требует от работодателей раскрывать, когда используются инструменты автоматизированного принятия решений, и проводить их аудит на предмет предвзятости, что отражает более широкую мировую тенденцию к ужесточению регулирования ИИ в найме.

Критики утверждают, что без четких правовых рамок и строгого правоприменения кандидаты могут столкнуться с невидимыми барьерами, усиленными ИИ. Если иск будет удовлетворен, он может потребовать большей прозрачности и подотчетности от платформ найма на основе ИИ и изменить способы развертывания таких инструментов.

Тем не менее сторонники ИИ-технологий найма утверждают, что автоматизация может снизить человеческую предвзятость и повысить эффективность. Дело Eightfold поднимает ключевой вопрос: должны ли инструменты ИИ, влияющие на важные жизненные решения о трудоустройстве, подлежать тем же правовым гарантиям, что и традиционные системы оценки?

По мере того как ИИ продолжает распространяться в сфере найма и за ее пределами, этот иск может стать индикатором того, как правовые системы сочетают передовые технологии с индивидуальными правами и справедливостью.

Читайте также:https://btw.media/en/allit-infrastructure/singapore-shifts-ai-spend-towards-public-research-infrastructure/