Algorithmische Monokulturen im Recruiting: Studie deckt systemische Probleme auf

Algorithmische Monokulturen im Recruiting: Studie deckt systemische Probleme auf

Forscher der Stanford University veröffentlichten die bislang größte empirische Studie zu algorithmischem Hiring. Analysiert wurden Daten von 3.4 Millionen echten Jobsuchenden, die 4 Millionen Bewerbungen bei 156 Arbeitgebern in 11 Marktsektoren einreichten. Die Studie offenbart tiefgreifende Probleme durch die Konzentration auf wenige Algorithmen-Vendor.

Die Monokultur-Problematik

Alle Bewerbungen wurden von Algorithmen eines einzelnen Vendors bewertet. Diese zentralisierte Abhängigkeit erzeugt eine “algorithmic monoculture” — ein System, in dem dieselben Bewertungskriterien überall dominieren.

Verborgene adverse Impact-Raten

Frühere Studien fanden nur begrenzte adverse Impact-Raten in den Gesamtdaten. Die neue Untersuchung deckt jedoch durch positionsweise Analyse zuvor übersehene Diskriminierung auf:

• 30% der schwarzen Bewerber reichen mindestens eine Bewerbung ein, die adverse Impact gegen schwarze Bewerber zeigt
• Asiatische Bewerber erleiden den größten Gesamteffekt: bei gleicher Selektionsrate wie die am häufigsten ausgewählte Gruppe wären 29.000 zusätzliche asiatische Bewerbungen empfohlen worden

Systemische Ablehnungen

Bewerber, die mehrere Positionen anstreben, können dieselben Ergebnisse erhalten. Die Studie zeigt: Die beobachtete systemische Ablehnungsrate übersteigt signifikant die erwartete Baseline-Rate bei unabhängigen Entscheidungen (χ² = 18.481, p < 0.001).

Von Bewerbern, die 4 Bewerbungen einreichen, werden 10% systemisch abgelehnt — überall abgelehnt, trotz unterschiedlicher Positionen.

Policy-Empfehlungen

Die Forscher empfehlen spezifische Maßnahmen für Jobs mit hoher adverser Impact, aktualisierte “high-risk AI”-Klassifikationen und überarbeitete Leitlinien für algorithmisches Hiring. Die Studie liefert dringend benötigte Evidenz für Regulierungsbehörden, die derzeit Guidelines für KI-gestütztes Recruiting entwickeln.

Das Paper ist unter algorithmichiring.github.io mit Code und Daten verfügbar.