Nein: Der EU AI Act verbietet seit dem 2. Februar 2025 KI-Systeme, die im Beruf oder in der Ausbildung Emotionen erkennen sollen - ein Bewerbungsgespräch fällt ausdrücklich in diesen Bereich. Das Verbot steht in Art. 5 Abs. 1 lit. f der Verordnung (EU) 2024/1689 und gilt unabhängig davon, ob das Gespräch per Video, Telefon oder KI-Voice-Interview geführt wird.
Das ist eine der wenigen Regeln des AI Act, die als „verbotene Praktik" eingestuft sind - eine deutlich strengere Kategorie als die „Hochrisiko"-Einstufung, die für die meisten KI-Systeme im Recruiting gilt und die vor allem Dokumentations- und Aufsichtspflichten vorschreibt, aber die Nutzung selbst nicht untersagt.
Was der AI Act konkret verbietet
Nach Art. 5 Abs. 1 lit. f AI Act ist das Inverkehrbringen, die Inbetriebnahme oder die Nutzung eines KI-Systems verboten, das speziell dazu bestimmt ist, Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen zu erkennen - mit einer engen Ausnahme für medizinische oder sicherheitsbezogene Gründe. Das Bewerbungsgespräch zählt eindeutig zum „Arbeitsplatz"-Kontext im Sinne der Norm, weil es Teil des Auswahlverfahrens für eine Beschäftigung ist.
Als Emotionserkennung im Sinne der Vorschrift gilt der Versuch, aus Stimme, Mimik, Tonlage oder ähnlichen Signalen auf einen Gemütszustand zu schließen - etwa Nervosität, Begeisterung, Unsicherheit oder Stress. Nicht erfasst ist die reine inhaltliche Auswertung dessen, was jemand sagt, oder eine strukturierte Bewertung fachlicher Antworten anhand vorher festgelegter Kriterien.
Warum das Verbot ausgerechnet im Beruf so scharf ist
Der Gesetzgeber begründet die Sonderstellung von Arbeitsplatz und Bildung mit dem strukturellen Machtgefälle: Wer im Bewerbungsprozess steht, kann sich einer Bewertung kaum entziehen, ohne die eigenen Chancen zu gefährden. Eine KI, die vermeintliche Nervosität oder mangelnde Begeisterung „erkennt" und in eine Bewertung einfließen lässt, würde genau diese Abhängigkeit ausnutzen - noch dazu auf Basis einer Technologie, deren Zuverlässigkeit zur Erkennung echter Emotionen wissenschaftlich stark umstritten ist.
Was noch erlaubt bleibt
Das Verbot betrifft die Erkennung von Emotionen, nicht jede Form der KI-gestützten Gesprächsauswertung. Erlaubt bleibt insbesondere:
| Verboten (Art. 5 Abs. 1 lit. f) | Weiterhin zulässig |
|---|---|
| Ableiten eines Gemütszustands aus Tonlage oder Stimmmelodie | Strukturierte Auswertung des gesprochenen Inhalts nach festen Kriterien |
| Bewertung von „Begeisterung" oder „Nervosität" aus Mimik/Stimme | Prüfung, ob eine Antwort eine gestellte Frage inhaltlich beantwortet |
| Persönlichkeits-Score aus paralinguistischen Signalen | Abgleich von Aussagen mit vorab definierten Anforderungen (K.-o.-Kriterien) |
| „Stimmungsbarometer" während des Gesprächs | Transkription und inhaltliche Zusammenfassung des Gesprächs für die Vorbereitung des menschlichen Interviews |
Der Unterschied liegt also nicht in der Technologie an sich, sondern im Zweck: Wird versucht, einen inneren Gemütszustand zu erschließen, greift das Verbot. Wird lediglich strukturiert erfasst, was inhaltlich gesagt wurde, ist das eine andere rechtliche Kategorie.
Was bei einem Verstoß droht
Verstöße gegen die verbotenen Praktiken nach Art. 5 gehören zur höchsten Bußgeldstufe des AI Act: Nach Art. 99 der Verordnung drohen Geldbußen von bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes des Unternehmens, je nachdem, welcher Betrag höher ist. Das ist die gleiche Größenordnung wie bei den schwersten DSGVO-Verstößen und deutlich über dem Bußgeldrahmen für Verstöße gegen die Hochrisiko-Pflichten des AI Act.
Was das für Voice- und Chat-Interviews bedeutet
Für ein KI-gestütztes Erstgespräch bedeutet das Verbot konkret: Die Auswertung darf sich auf den Inhalt der Antworten stützen - Vollständigkeit, fachliche Passung zu vorab definierten Kriterien, Klarheit der Aussage - nicht aber auf eine Einschätzung des emotionalen Zustands der sprechenden Person. Anbieter, die mit einer „Stimmungs-" oder „Persönlichkeitsanalyse" aus Tonlage oder Sprachmelodie werben, bewegen sich in einem rechtlich heiklen Bereich, den Auftraggeber vor dem Einsatz genau prüfen sollten.
Eine ehrliche Grenze gehört ebenfalls dazu: Auch ein Anbieter, der bewusst auf Emotionserkennung verzichtet, kann nicht garantieren, dass ein Sprachmodell im Hintergrund niemals unbeabsichtigt Tonfall-Signale in seine Bewertung einfließen lässt. Die Anforderung an jedes seriöse System ist deshalb Transparenz darüber, worauf die Bewertung tatsächlich beruht - und die Möglichkeit, das im Zweifel nachzuvollziehen.
Woran man ein Tool mit Emotionserkennung erkennt
Vor dem Einsatz eines Voice- oder Video-Interview-Tools lohnt sich ein Blick auf drei Stellen: die Produktbeschreibung des Anbieters, die tatsächlich ausgegebenen Bewertungsdimensionen und die Herkunft der zugrunde liegenden Trainingsdaten. Warnsignale sind Begriffe wie „emotionale Intelligenz-Analyse", „Sentiment-Score" auf Basis von Stimme oder ein Ergebnis-Report, der Kategorien wie „Begeisterung" oder „Authentizität" ohne erkennbaren Bezug zu einer konkreten Antwort ausweist. Ein rechtssicheres System sollte umgekehrt klar benennen können, auf welchen inhaltlichen Kriterien jede einzelne Bewertung beruht, und diese Kriterien vor dem Einsatz offenlegen - nicht erst auf Nachfrage nach einer Beschwerde.
Wichtig für die Praxis: Die Verantwortung dafür, dass ein eingesetztes System dem Verbot entspricht, liegt beim Unternehmen, das die KI im Bewerbungsprozess einsetzt - nicht nur beim Software-Anbieter. Wer ein Tool eines Drittanbieters einkauft, sollte sich die Funktionsweise deshalb schriftlich zusichern lassen, statt sich allein auf Marketingaussagen zu verlassen.
Häufige Fragen zu KI und Emotionserkennung im Recruiting
Gilt das Verbot auch für die Analyse von Mimik in Video-Interviews?
Ja, das Verbot ist technologieneutral formuliert und erfasst jede KI, die auf Emotionserkennung abzielt - unabhängig davon, ob sie Stimme, Mimik oder beides auswertet.
Darf ein Mensch im Gespräch trotzdem auf die Körpersprache achten?
Ja. Das Verbot richtet sich an den Einsatz von KI-Systemen zur Emotionserkennung, nicht an die menschliche Einschätzung im persönlichen Gespräch.
Gilt die Ausnahme für medizinische oder sicherheitsbezogene Gründe auch im Recruiting?
Nein, praktisch nicht. Diese enge Ausnahme ist etwa für medizinische Diagnosesysteme oder Sicherheitsanwendungen gedacht, nicht für die Personalauswahl.
Muss ich als Arbeitgeber aktiv nachweisen, dass mein Tool keine Emotionen erkennt?
Eine generelle Nachweispflicht sieht der AI Act dafür nicht ausdrücklich vor, in der Praxis empfiehlt sich aber, sich die Funktionsweise vom eingesetzten System schriftlich bestätigen zu lassen - schon um im Streitfall die eigene Sorgfalt belegen zu können.
Wie unterscheidet sich das vom Verbot automatisierter Ablehnungen nach Art. 22 DSGVO?
Es sind zwei getrennte Regelungen mit unterschiedlichem Schutzzweck: Art. 5 AI Act verbietet eine bestimmte Analysemethode (Emotionserkennung), Art. 22 DSGVO reguliert, ob eine Entscheidung vollständig automatisiert getroffen werden darf. Mehr dazu im Beitrag KI Bewerber automatisch ablehnen? Art. 22 DSGVO.
Seit wann gilt das Verbot genau?
Seit dem 2. Februar 2025. Anders als die Hochrisiko-Pflichten des AI Act, die schrittweise bis August 2026 in Kraft getreten sind, gehörten die verbotenen Praktiken nach Art. 5 zu den ersten Regeln der Verordnung, die überhaupt anwendbar wurden - Unternehmen hatten hierfür also deutlich weniger Übergangszeit als bei den übrigen Pflichten des Gesetzes.
Dieser Beitrag ersetzt keine Rechtsberatung im Einzelfall. Einen Überblick über die weiteren Pflichten des AI Act im Recruiting - jenseits der verbotenen Praktiken - bietet EU AI Act Recruiting: Welche Pflichten wirklich gelten, eine praktische Einordnung von Verzerrungen in KI-Interviews KI Interview Bias Fairness. Wie ein KI-Voice-Interview ohne Emotionserkennung in der Praxis aufgebaut ist, zeigt die Voice-Interview-Seite von Atlas, weitere Beiträge zum Thema im Themen-Hub KI-Interviews. Was ein solches Gespräch tatsächlich kostet, ordnet Was kostet ein KI-Interview im Recruiting? ein.
Jürgen Ulbrich
Jürgen Ulbrich verfügt über mehr als ein Jahrzehnt Erfahrung in der Entwicklung und Führung leistungsstarker Teams und Unternehmen. Als Experte für Mitarbeiterempfehlungsprogramme sowie Feedback- und Performance-Prozesse hat Jürgen über 100 Organisationen dabei unterstützt, ihre Talent Acquisition und Devlopment Strategie zu optimieren.
