New York: Gesetz reguliert KI-Einsatz für Bewerbungen

Als erste Stadt der Welt hat New York City ein Gesetz, das Diskriminierung durch KI-gesteuerte Einstellungssoftware verhindern soll. Denn KI-Programme sind weltweit auf dem Vormarsch und werden auch auf dem Arbeitsmarkt immer relevanter.

Laut einer Studie der Society for Human Resource Management aus dem Jahr 2022 setzt fast jedes vierte amerikanische Unternehmen künstliche Intelligenz im Personalbereich ein, am häufigsten bei der Einstellung und Rekrutierung von Bewerber*innen.

Viele Unternehmen seien in diesem Bereich auf KI angewiesen, erklärt Jacob Appel, Chefstratege bei ORCAA, einer amerikanischen Beratungs- und Prüffirma für KI-Nutzer:

"Man kann sich mit einem Klick auf eine Stelle bewerben oder sogar auf mehrere Stellen gleichzeitig", erläutert Appel.

Um die Masse an Bewerbungen bewältigen zu können, könne KI beispielsweise dabei helfen, Lebensläufe zu filtern oder ein erstes Gespräch mit den Bewerber*innen zu führen.

Der zunehmende Einsatz von KI auf dem Arbeitsmarkt kann jedoch schwerwiegende Folgen haben. Diskriminierende Einstellungsentscheidungen, die in der Vergangenheit von Menschen getroffen wurden, könnten von einer KI, die mit alten Daten trainiert wurde, reproduziert werden, so Appel.

Unternehmen hätten jedoch oft wenig Einblick in die Funktionsweise der von ihnen eingesetzten, aber von anderen Unternehmen entwickelten Technologien. Es stelle sich dann die Frage, wer für die Handlungen einer KI verantwortlich ist.

Viele Personalverantwortliche hätten zudem weder die Zeit noch das nötige Wissen, um die Entscheidungen einer KI kritisch zu hinterfragen und zu überprüfen, sagt Julia Stoyanovich, Informatikprofessorin an der New York University.

Das neue Gesetz "NYC 144" zwingt künftig Unternehmen mit Sitz in New York, die von ihnen eingesetzten KI-basierten Entscheidungshilfen - sogenannte "Automated Employment Decision Tools", kurz AEDT - durch unabhängige Drittunternehmen wie ORCAA auf rassistische und sexistische Entscheidungskriterien überprüfen zu lassen und die Ergebnisse zu veröffentlichen.

Bewerber*innen müssen außerdem die Möglichkeit haben, auf ein alternatives, nicht KI-basiertes Screening zurückzugreifen. Pro Verstoß drohen den Unternehmen Strafen von bis zu 1.500 US-Dollar.

Das Gesetz sei ein guter Anfang, habe aber noch viel Entwicklungspotenzial, so Appel. So berücksichtige das Screening bisher keine Diskriminierung aufgrund anderer Kriterien wie Alter oder einer möglichen Behinderung.

Auch viel früher ansetzende KI-Entscheidungen, die beeinflussen, welche Stellenanzeigen welchen Bevölkerungsgruppen angezeigt werden, würden wohl nicht auf Diskriminierung geprüft, hätten aber gravierende Auswirkungen auf den Bewerbungsprozess, so Julia Stoyanovich.

Domenique Camacho Moran, Fachanwältin für Arbeitsrecht in der New Yorker Kanzlei Farrell Fritz, rechnet mit einer weiteren Zunahme automatisierter Entscheidungshilfen in der Personalauswahl und fordert die Nutzer solcher KI auf, Verantwortung zu übernehmen:

Das neue New Yorker Gesetz sei ein Schritt in die richtige Richtung. Als das erste seiner Art setzt es ein Signal für die Bedeutung der Regulierung von KI in Entscheidungsprozessen auf dem Arbeitsmarkt - auch für andere Länder wie Deutschland.