NYC Local Law 144 verpflichtet Arbeitgeber und Personalvermittler, vor dem Einsatz eines erfassten Automated Employment Decision Tools in New York City ein unabhängiges KI Bias Audit durchführen zu lassen. Das Audit darf höchstens ein Jahr zurückliegen. Zusätzlich müssen sie Ergebnisse veröffentlichen und betroffene Bewerbende oder Beschäftigte rechtzeitig informieren. Die Verantwortung bleibt beim Arbeitgeber.

Was verlangt NYC Local Law 144 konkret?

NYC Local Law 144 regelt einen eng umrissenen Einsatz von Automatisierung: das Screening von Bewerbenden oder Beschäftigten für eine Einstellung oder Beförderung in New York City. Das Gesetz verbietet KI im Recruiting nicht. Es knüpft den Einsatz eines erfassten Automated Employment Decision Tools, kurz AEDT, an drei Bedingungen. Vor der Nutzung müssen ein unabhängiges Bias Audit, eine öffentliche Zusammenfassung der Ergebnisse und die vorgeschriebenen Hinweise bereitstehen. Die offiziellen FAQ der NYC Department of Consumer and Worker Protection erläutern diese Pflichten.

Die Reihenfolge ist wichtig. Ein Unternehmen darf ein erfasstes Tool nicht zuerst ausrollen und den Audit später nachholen. Audit, Veröffentlichung und Hinweise gehören vor den produktiven Einsatz. Die Durchsetzung begann am 5. Juli 2023. Für DACH-Unternehmen mit US-Geschäft ist Local Law 144 deshalb ein regulärer Beschaffungs- und Freigabeprozess.

Für wen gilt NYC Local Law 144?

Prüfen Sie zuerst die Stelle und die konkrete Auswahlentscheidung. Eine Rolle fällt nach den DCWP-FAQ in den räumlichen Anwendungsbereich, wenn sie zumindest teilweise einem Büro in New York City zugeordnet ist. Das gilt auch für eine vollständig remote ausgeübte Rolle, die organisatorisch zu einem NYC-Büro gehört. Für Personalvermittler gelten ergänzende Konstellationen.

Der Wohnort einer Person beantwortet die Frage nicht allein. Er spielt bei der Hinweispflicht eine Rolle. Für den Einsatz „in the city“ ist jedoch die Zuordnung der Stelle entscheidend. Eine deutsche Zentrale kann daher betroffen sein, wenn ihre US-Tochter oder ihr globales Recruiting ein Tool für NYC-Stellen nutzt.

Wenden Sie auf jedes Tool und jeden Workflow diese fünf Fragen an:

1. Geht es um eine konkrete Stelle oder Beförderung? Erfasst ist das Screening für eine Einstellung oder interne Beförderung.
2. Ist die Rolle einem NYC-Standort zugeordnet? Dokumentieren Sie Büro, Gesellschaft und organisatorische Zuordnung der Requisition.
3. Erzeugt ein Rechenprozess einen Score, eine Klassifizierung oder Empfehlung? Produktbegriffe wie Copilot oder Assistant entscheiden die Rechtsfrage nicht.
4. Unterstützt oder ersetzt das Ergebnis die menschliche Entscheidung wesentlich? Maßgeblich ist der reale Prozess, nicht nur die Produktbeschreibung.
5. Hat sich die Person auf eine konkrete Stelle beworben? Reine Suche im Talent Pool, Active Sourcing oder die Einladung zur Bewerbung fallen laut DCWP nicht unter diese Anforderungen, solange noch keine Bewerbung auf eine konkrete Position vorliegt.

Treffen Sie keine pauschale Entscheidung für die gesamte Plattform. Ein ATS kann in seiner Grundfunktion außerhalb des Anwendungsbereichs liegen. Ein zusätzlich aktiviertes Ranking-Modul kann anders zu bewerten sein. Das Inventar sollte deshalb Tool, Funktion, Version, Entscheidung, Nutzergruppe und Stellenpopulation getrennt erfassen.

Was prüft ein AEDT Bias Audit?

Ein Bias Audit nach Local Law 144 ist eine unparteiische Bewertung durch einen unabhängigen Auditor. Im Mindestumfang berechnet er Auswahl- oder Bewertungsraten und Impact Ratios für Geschlecht, Race oder Ethnicity sowie deren Schnittmengen. Ob Auswahlraten oder Score-Verteilungen relevant sind, hängt von der Funktion des Tools ab. Historische Daten aus dem tatsächlichen Einsatz sind grundsätzlich die Basis.

Die öffentliche Zusammenfassung ist kein bloßes Prüfsiegel. Sie muss das Datum des Audits und die Datenquelle erklären. Sie nennt die Zahl der Personen in einer unbekannten Kategorie. Außerdem zeigt sie die einschlägigen Fallzahlen, Raten und Impact Ratios. Das Distribution Date des Tools muss ebenfalls öffentlich sein. Die Angaben gehören auf die Karrierewebsite oder müssen dort über einen aktiven Link erreichbar sein.

Fünf Grenzen sind für die Praxis wichtig:

• Die DCWP führt keine Liste zugelassener Auditoren. Sie müssen die Unabhängigkeit selbst nachvollziehen und dokumentieren.
• Ein Audit des Anbieters kann nutzbar sein. Er überträgt die Verantwortung aber nicht vom Arbeitgeber auf den Anbieter.
• Testdaten sind bei unzureichenden historischen Daten möglich. Die Zusammenfassung muss Grund, Quelle und Erstellung erklären.
• Demografische Daten dürfen für diesen Audit nicht einfach abgeleitet werden. Nach den FAQ sind imputierte oder algorithmisch geschätzte Merkmale nicht zulässig.
• Das Audit ist keine behördliche Zertifizierung. Es belegt definierte Ergebnisberechnungen, aber nicht automatisch Fairness für jede Stelle oder Personengruppe.

Das Gesetz schreibt keine bestimmte Reaktion vor, wenn ein Ergebnis auf Disparate Impact hindeutet. Daraus folgt nicht, dass das Unternehmen den Befund ignorieren darf. Prüfen Sie den betroffenen Workflow, die berufliche Relevanz der Kriterien, Stichprobengrenzen und mögliche Prozessursachen. Legen Sie vorab fest, wer das Tool pausieren darf und wann qualifizierte Rechtsberatung entscheidet.

Was kostet ein KI Bias Audit nach Local Law 144?

Preisstand: August 2026. Weder das Gesetz noch die DCWP setzen einen Preis fest. Viele Auditoren kalkulieren nach einem Scoping. Eine 2026 veröffentlichte Preisübersicht eines spezialisierten Auditors nennt sichtbare Marktbeispiele von ungefähr 5.000 bis 50.000 US-Dollar und einen eigenen Einstiegspreis von 5.500 US-Dollar für das erste Tool. Das ist eine Anbieterquelle, kein amtlicher Tarif und kein garantierter Marktdurchschnitt. Holen Sie vergleichbare schriftliche Angebote ein.

Der Auditpreis ist nur ein Teil des Budgets. Oft liegen die größeren internen Aufwände in der Datenbereinigung, Scope-Entscheidung, rechtlichen Prüfung, Veröffentlichung und technischen Umsetzung der Hinweise.

Lassen Sie alle Bieter denselben Umfang kalkulieren. Nennen Sie Tool-Version, Workflow, Zeitraum, Gesellschaften, Datenverantwortliche, Deliverables und gewünschte Unterstützung bei Remediation und Veröffentlichung. Sonst vergleichen Sie womöglich eine reine Berechnung für 5.500 US-Dollar mit einem umfassenden fünfstelligen Projekt. Planen Sie die Arbeitszeit von HR, Datenschutz, Legal, Analytics, Einkauf und Web-Team separat.

Wie setzen Sie einen AI Hiring Audit praktisch um?

Ein belastbarer Ablauf besteht aus acht Schritten:

1. Entscheidungen statt Logos inventarisieren. Erfassen Sie Scores, Rankings, Empfehlungen, Klassifizierungen und automatische Ausschlüsse im gesamten Recruiting- und Beförderungsprozess.
2. Scope pro Workflow prüfen. Dokumentieren Sie Stellenort, Kandidatenstatus, Funktion, tatsächliche Nutzung und die Begründung Ihrer Einordnung.
3. Prüfobjekt fixieren. Halten Sie Produkt, Modell- oder Feature-Version, Konfiguration, Inputs, Outputs, Schwellenwerte und Release-Datum fest.
4. Nutzbare Daten sichern. Exportieren Sie Fallzahlen, Prozessstufen, Ergebnisse, Zeitpunkte, rechtmäßig erhobene demografische Angaben, unbekannte Kategorien und Ausschlussgründe. Stimmen Sie Summen vor der Übergabe ab.
5. Unabhängigkeit prüfen. Fragen Sie nach Arbeitsverhältnissen, Beteiligung an Entwicklung oder Vertrieb und direkten oder wesentlichen indirekten finanziellen Interessen.
6. Ergebnis als Entscheidung behandeln. HR, Legal, Data Owner und Fachverantwortliche prüfen kleine Stichproben, Impact Ratios, Berufsbezug und mögliche Prozessursachen.
7. Veröffentlichen und informieren. Stellen Sie Zusammenfassung und Distribution Date online. Konfigurieren Sie den Hinweis mindestens zehn Geschäftstage vor der Nutzung.
8. Frist betreiben. Benennen Sie einen Owner für das Auditablaufdatum, beobachten Sie Releases und verhindern Sie die Aktivierung eines nicht geprüften Workflows.

Bei Lösungen für CV Screening oder Voice Interviews benötigen Sie Nachweise auf Ebene des konkreten Outputs. Eine allgemeine Responsible-AI-Erklärung zeigt nicht, welches Modell, welcher Schwellenwert oder welcher Workflow geprüft wurde. Sprad kann dabei wie andere Speziallösungen oder ATS-Module anhand derselben Kriterien bewertet werden.

Machen Sie den Hinweis zu einem funktionierenden Prozess. Wenn die Karriereseite einen allgemeinen Hinweis trägt, muss er die vollen zehn Geschäftstage vor der AEDT-Nutzung online sein. Nennen Sie den geplanten Einsatz. Beschreiben Sie die bewerteten beruflichen Merkmale. Erklären Sie den Weg zu einer angemessenen Anpassung. Recruiter müssen wissen, wie sie eine solche Anfrage bearbeiten, ohne die Person zu benachteiligen.

Welche Fragen gehören in die Anbieterauswahl?

Da die Verantwortung beim Arbeitgeber bleibt, ist die Due Diligence zentral. Fordern Sie vor einem Pilot mit echten Bewerbenden konkrete Artefakte an:

• Welche Funktionen erzeugen Vorhersagen, Klassifizierungen, Scores, Rankings oder Empfehlungen?
• Welche Version wurde wann und mit welchen Daten unabhängig geprüft?
• Darf Ihr Unternehmen den vom Anbieter koordinierten Audit nach den DCWP-Datenregeln verwenden?
• Welche Änderungen enthält ein Release, und wann warnt der Anbieter vor einer Änderung des Prüfobjekts?
• Lassen sich alle Felder exportieren, die für Auswahl- oder Scoring-Raten erforderlich sind?
• Kann die Automation für NYC-Requisitionen deaktiviert werden, ohne den übrigen Prozess zu stören?
• Wie dokumentiert das System menschliche Prüfung, Overrides, Anpassungen und Kandidatenanfragen?
• Welche Lösch- und Aufbewahrungsregeln gelten für Eingangsdaten, Scores, Transkripte und abgeleitete Merkmale?

Testen Sie diese Antworten im Produkt. Legen Sie eine Muster-Requisition für New York an. Deaktivieren und aktivieren Sie die Funktion. Exportieren Sie einen vollständigen Entscheidungsdatensatz. Ändern Sie einen Schwellenwert. Spielen Sie eine Anfrage nach Anpassung durch. Löschen Sie eine Testperson über das Candidate Portal oder den Datenschutzprozess. Diese Nachweise sind aussagekräftiger als eine Präsentation.

Welche zusätzlichen Pflichten haben DACH-Unternehmen?

Ein bestandener NYC-Audit erfüllt nicht automatisch europäische oder deutsche Anforderungen. Local Law 144 fokussiert auf bestimmte Ergebnisberechnungen, Veröffentlichung und Hinweise. In Deutschland verbietet das Allgemeine Gleichbehandlungsgesetz in § 7 Benachteiligungen wegen der in § 1 genannten Merkmale. Ein formaler NYC-Audit ersetzt deshalb keine Prüfung des konkreten Auswahlverfahrens nach deutschem Recht.

Hinzu kommen Datenschutz, Transparenz, mögliche automatisierte Entscheidungen, technische und organisatorische Maßnahmen sowie die rechtzeitige Einbindung interner Arbeitnehmervertretungen. Der EU AI Act betrachtet Recruiting-Systeme zudem aus einer anderen Risikoperspektive. Nutzen Sie ein gemeinsames Tool-Inventar, aber hängen Sie je Rechtsraum eigene Kontrollen an.

Für Europa helfen ein Überblick zu den EU AI Act Pflichten im Recruiting und die ausführlichere Compliance-Prüfung für AI Recruiting Tools. Halten Sie die öffentliche NYC-Audit-Zusammenfassung getrennt von DSGVO-Informationen. Die Dokumente beantworten unterschiedliche Fragen und richten sich teilweise an unterschiedliche Personengruppen.

Welche Folgen drohen bei Verstößen?

Der verabschiedete Gesetzestext nennt bis zu 500 US-Dollar für den ersten Verstoß und weitere Verstöße am selben Tag sowie 500 bis 1.500 US-Dollar für spätere Verstöße. Jeder Tag einer rechtswidrigen AEDT-Nutzung kann einen eigenen Verstoß begründen. Verletzungen der Hinweispflichten werden im Text gesondert behandelt.

Für Recruiting-Teams ist auch das Betriebsrisiko relevant. Ein abgelaufener Audit kann ein Screening während einer laufenden Hiring-Welle stoppen. Eine unklare Veröffentlichung erzeugt Fragen, die Recruiter nicht beantworten können. Ein auffälliges Ergebnis ohne Eskalationsweg bleibt womöglich liegen, während der Prozess weiterläuft. Dagegen helfen ein Inventar, ein namentlicher Control Owner, ein Fristenkalender und eine technische Aktivierungssperre.

Häufige Fragen zu NYC Local Law 144

Gilt Local Law 144 für jedes ATS?

Nein. Ein ATS, das Daten nur speichert, organisiert oder weiterleitet, ist nicht automatisch ein AEDT. Ein Ranking-, Scoring-, Empfehlungs- oder Absagemodul kann die Einordnung ändern. Prüfen Sie die konkrete Funktion und Nutzung.

Reicht eine menschliche Endkontrolle aus?

Nicht zwingend. Entscheidend ist, ob der Output die Ermessensentscheidung wesentlich unterstützt oder ersetzt. Eine formale menschliche Prüfung hilft wenig, wenn der Score das Ergebnis faktisch vorgibt.

Darf ein Arbeitgeber den Audit des Softwareanbieters verwenden?

Unter bestimmten Voraussetzungen. Der Anbieter kann einen unabhängigen Audit koordinieren. Der Arbeitgeber muss dennoch Aktualität, Anwendbarkeit, Datengrundlage, Unabhängigkeit und Veröffentlichung selbst prüfen.

Muss ein Tool bei einem auffälligen Impact Ratio abgeschaltet werden?

Local Law 144 selbst schreibt keine bestimmte Reaktion vor. Antidiskriminierungsrecht gilt trotzdem. Eskalieren Sie den Befund, prüfen Sie den Prozess und holen Sie vor einer unveränderten Fortsetzung qualifizierte Rechtsberatung ein.

Ist dieser Beitrag eine Rechtsberatung?

Nein. Er ist ein operativer Leitfaden auf Basis öffentlicher Quellen. Die Einordnung hängt von Standorten, Verträgen, Daten, Funktionen und der tatsächlichen Nutzung ab. Lassen Sie die konkrete Rechtsposition fachkundig prüfen.