Emo­tions­erken­nung am Arbeits­platz

Kurz gesagt: Seit dem 2. Februar 2025 verboten: KI-Systeme, die Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen ableiten, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f KI-VO). Maßgeblich ist das Emotionserkennungssystem nach Art. 3 Nr. 39, also die Ableitung aus biometrischen Daten wie Gesicht oder Stimme. Der Bußgeldrahmen reicht bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.

Rechtsstand: 28. September 2026, KI-VO in der Fassung der Verordnung (EU) 2026/1744.

Art. 5 gehört zu Kapitel II der KI-Verordnung und gilt nach Art. 113 Buchst. a seit dem 2. Februar 2025. Die verbotenen Praktiken sind der älteste anwendbare Teil der Verordnung. Welche Teile seitdem hinzugekommen sind, steht unter KI-Verordnung für den Mittelstand.

Was genau verboten ist

Art. 5 Abs. 1 Buchst. f verbietet das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck und die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen. Ausgenommen ist ein System, das aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt gebracht werden soll.

Das Verbot trifft damit beide Seiten: den Hersteller, der ein solches System anbietet, und den Betrieb, der es verwendet.

Was „Emotion ableiten“ heißt, ergibt sich aus drei Stellen der Verordnung:

Erwägungsgrund 44 begründet das Verbot mit der unsicheren wissenschaftlichen Grundlage solcher Systeme und dem Machtungleichgewicht am Arbeitsplatz. Er spricht von Systemen, die Emotionen auf der Grundlage biometrischer Daten erkennen oder ableiten. Die Leitlinien der Kommission zu verbotenen Praktiken vom Februar 2025 binden das Verbot an den Begriff aus Art. 3 Nr. 39.

Daraus folgt eine Abgrenzung, die vorsichtig zu lesen ist. Wer Gesicht, Stimme oder Körperhaltung auswertet, um auf Ärger, Stress oder Zufriedenheit zu schließen, fällt unter das Verbot. Wer die Tonlage geschriebener Texte zählt, arbeitet nicht mit biometrischen Daten und fällt nach dieser Lesart nicht darunter. Leitlinien der Kommission binden Gerichte nicht. Eine Textanalyse, deren Ergebnis einzelnen Beschäftigten zugeordnet wird, bleibt zudem eine Verarbeitung von Beschäftigtendaten und eine technische Einrichtung nach § 87 Abs. 1 Nr. 6 BetrVG.

Die Ausnahmen

Buchst. f nennt zwei Gründe: medizinische Gründe und Sicherheitsgründe. Erwägungsgrund 44 nennt als Beispiel Systeme für therapeutische Zwecke.

Die Ausnahmen sind eng. Wer sich auf sie stützt, sollte den Grund vor der Einführung schriftlich festhalten und ihn nicht nachträglich aus dem Nutzen des Systems ableiten.

Was das für Callcenter-Analyse, Videokonferenz-Tools und Bewerbungsgespräche heißt

Callcenter. Ein Gespräch hat zwei Seiten. Die Auswertung der Stimme der Beschäftigten, um auf Stress, Ärger oder Freundlichkeit zu schließen, ist verboten. Die Leitlinien der Kommission nehmen die Auswertung der Emotionen von Kunden aus dem Verbot aus, weil diese nicht an ihrem Arbeitsplatz sind. Ein solches System bleibt ein Emotionserkennungssystem: Hochrisiko nach Anhang III Nr. 1 Buchst. c ab dem 2. Dezember 2027, die Anrufer sind nach Art. 50 Abs. 3 seit dem 2. August 2026 über den Betrieb zu informieren. Die Datenschutzkonferenz führt die automatisierte Auswertung der Stimmungslage von Anrufern als Beispiel für eine Verarbeitung, die eine DSFA verlangt, siehe DSFA für KI. Technisch muss feststehen, dass nur die Kundenspur ausgewertet wird.

Videokonferenz-Tools. Manche Plattformen bieten Auswertungen zu Aufmerksamkeit, Stimmung oder Engagement je Teilnehmer an, gestützt auf Kamerabild und Stimme. In internen Sitzungen mit Beschäftigten ist eine solche Funktion, die Emotionen ableitet, verboten. Prüfen Sie die Einstellungen jedes Tools im Haus und dokumentieren Sie, dass solche Funktionen abgeschaltet sind. Die Stelle Ruth (AI) nimmt auf Einladung an Teams-Besprechungen teil und führt dort Protokolle; ihre Akte schließt die Auswertung von Redeanteilen, Stimmung oder Anwesenheitszeiten je Teilnehmer aus und hält fest, dass eine Emotionserkennung am Arbeitsplatz nach Art. 5 KI-VO verboten wäre.

Bewerbungsgespräche. Die Leitlinien der Kommission beziehen Bewerber im Auswahlverfahren in den Begriff Arbeitsplatz ein, weil das Machtungleichgewicht schon dort besteht. Ein Video-Interview, dessen Auswertung aus Mimik, Stimme oder Körpersprache auf Nervosität, Begeisterung oder Ehrlichkeit schließt, ist damit verboten. Die Stelle Mira (AI) für die Bewerbervorauswahl macht keine Sprach-, Video- oder Persönlichkeitsanalyse, auch nicht als Zusatzhinweis. Was bei der Vorauswahl sonst gilt, steht unter KI in der Bewerberauswahl.

Zwei Fragen an den Anbieter klären das meiste vor dem Einkauf: Welche Merkmale aus Bild und Ton wertet das System aus, und lassen sich Funktionen, die Emotionen von Beschäftigten ableiten, dauerhaft abschalten? Die Antworten gehören schriftlich zu den Unterlagen. Weil Updates neue Funktionen bringen können, werden die Einstellungen nach jedem größeren Update erneut geprüft und das Ergebnis mit Datum festgehalten.

Bußgeldrahmen

Verstöße gegen die Verbote aus Art. 5 stehen in Art. 99 Abs. 3 KI-VO. Der Bußgeldrahmen reicht bis zu 35 Millionen Euro oder 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für KMU einschließlich Start-ups gilt nach Art. 99 Abs. 6 der jeweils niedrigere Betrag. Die Sanktionsvorschriften in Kapitel XII gelten nach Art. 113 Buchst. b seit dem 2. August 2025.

Es ist der höchste Rahmen der Verordnung. Für Verstöße gegen die Transparenzpflichten nach Art. 50 liegt er niedriger, siehe KI-Kennzeichnungspflicht.

Ob ein System im Haus unter ein Verbot fällt oder in Anhang III steht, klären fünf Fragen unter Einstufung nach der KI-Verordnung.