Eightfold: KI-Einstellungsplattform wegen geheimer Bewerberbewertung verklagt

• Eine in Kalifornien eingereichte Sammelklage behauptet, dass die KI-Tools von Eightfold heimlich Bewerber bewertet und gegen Verbraucherschutzgesetze verstoßen haben.
• Der Fall verdeutlicht breitere Bedenken hinsichtlich algorithmischer Transparenz und rechtlicher Verantwortlichkeit in automatisierten Einstellungssystemen.

Was passiert ist

Die KI-EinstellungsplattformEightfold AIist Gegenstand einerin Kalifornien eingereichten Sammelklage, die behauptet, sie habe Arbeitgebern geholfen, Bewerber heimlich zu bewerten und zu benoten, ohne deren Wissen oder Zustimmung, so ein Bericht von Reuters. Die Klage wurde im Namen von zwei Arbeitssuchenden eingereicht, die behaupten, dass die Tools von Eightfold detaillierte Profile und Vorhersagen über die Beschäftigungsaussichten der Bewerber erstellt haben – einschließlich Persönlichkeitsmerkmale und der Bewertung von Ausbildungen – ohne den Bewerbern eine Benachrichtigung oder die Möglichkeit zu geben, Ungenauigkeiten anzufechten.

Die Kläger argumentieren, dass diese Praxis gegen denFair Credit Reporting Act (FCRA)und das kalifornische Verbraucherschutzgesetz verstoßen habe, die vorschreiben, wie bei Einstellungsentscheidungen verwendete Informationen offengelegt werden müssen, und es Einzelpersonen ermöglichen, die gegen sie verwendeten Daten zu überprüfen und anzufechten. Sie behaupten, dass die KI-Bewertungen von Eightfold wie „Kreditauskünfte“ funktionierten, jedoch ohne die gesetzlich erforderliche Transparenz und Anfechtungsrechte.

Die Plattform von Eightfold wird von vielen großen Arbeitgebern – darunter Microsoft und PayPal – genutzt, um Bewerber zu filtern und deren Eignung für Stellen vorherzusagen. Weder Microsoft noch PayPal sind jedoch Beklagte in dem Verfahren, und Eightfold hatte zum Zeitpunkt der Veröffentlichung des Berichts nicht öffentlich auf Anfragen nach Kommentaren reagiert.

Die Klage beschreibt die traditionelle Lebenslaufprüfung, die durch KI-Modelle erweitert wird, die umfangreiche Datenquellen zusammenstellen, um Bewertungen und Rückschlüsse auf die zukünftige berufliche Laufbahn eines Bewerbers zu generieren. Die Kläger behaupten, dass viele qualifizierte Bewerber, darunter solche mit umfangreicher Erfahrung und höheren Abschlüssen, abgelehnt wurden und glauben, dass die KI-Bewertung eine Rolle gespielt haben könnte.

Lesen Sie auch:https://btw.media/en/alltech-trends/ai/hbm4-production-set-to-begin-as-nvidias-next-gen-ai-memory-race-heats-up/

Warum das wichtig ist

Der Eightfold-Prozess unterstreicht ein wachsendes Unbehagen darüber, wie KI und automatisierte Systeme bei Einstellungsentscheidungen eingesetzt werden. Automatisierte Einstellungstools haben sich in allen Branchen verbreitet und versprechen Effizienz und weniger Vorurteile, aber ihre undurchsichtige Natur kann es für Bewerber schwierig machen, die Entscheidungen zu verstehen, die ihre Karriere betreffen. Experten warnen, dass es schwieriger wird, die Richtigkeit zu überprüfen oder unfaire Ergebnisse anzufechten, wenn KI-Modelle externe Daten und proprietäre Algorithmen nutzen.

Die Regulierungsbehörden konzentrieren sich zunehmend auf diese Schnittstelle zwischen Technologie und Recht. Beispielsweise verlangt dasLocal Law 144der Stadt New York, dass Arbeitgeber offenlegen, wann automatisierte Entscheidungstools verwendet werden, und diese auf Vorurteile überprüfen, was einen weltweiten Trend zu strengeren KI-Vorschriften bei der Einstellung widerspiegelt.

Kritiker argumentieren, dass Bewerber ohne klare rechtliche Rahmenbedingungen und strenge Durchsetzung auf unsichtbare, durch KI verstärkte Barrieren stoßen könnten. Wenn die Klage Erfolg hat, könnte sie eine größere Transparenz und Verantwortlichkeit für KI-Einstellungsplattformen erzwingen und die Art und Weise, wie diese Tools eingesetzt werden, neu gestalten.

Befürworter der KI-Einstellungstechnologie behaupten jedoch, dass die Automatisierung menschliche Vorurteile reduzieren und die Effizienz steigern kann. Der Fall Eightfold wirft eine entscheidende Frage auf: Sollten KI-Tools, die lebensverändernde Einstellungsentscheidungen beeinflussen, denselben rechtlichen Garantien unterliegen wie traditionelle Bewertungssysteme?

Während KI sich weiterhin in der Einstellung und darüber hinaus ausbreitet, könnte dieser Prozess zu einem Barometer dafür werden, wie Rechtssysteme Spitzentechnologien mit individuellen Rechten und Fairness in Einklang bringen.

Lesen Sie auch:https://btw.media/en/allit-infrastructure/singapore-shifts-ai-spend-towards-public-research-infrastructure/