Hochrisiko-KI nach Anhang III: Beispiele für KMU

Auf dieser Seite

Anhang III Nr. 1 bis 8
Die Ausnahme nach Art. 6 Abs. 3 Buchst. a bis d
Profiling hebt die Ausnahme auf
Registrierung trotz Ausnahme
Beispiel Mira (AI), AM-004
Häufige Fragen
Quellen

Kurz gesagt: Hochrisiko ist ein KI-System, das in einem Bereich aus Anhang III über Menschen entscheidet oder die Entscheidung wesentlich beeinflusst. Für Anhang III gelten die Pflichten ab dem 2. Dezember 2027. Art. 6 Abs. 3 KI-VO nimmt eng umrissene Hilfstätigkeiten wieder aus, nie aber ein System, das Profiling vornimmt. Wer die Ausnahme in Anspruch nimmt, dokumentiert das und registriert das System trotzdem.

Rechtsstand: 28. September 2026, KI-VO in der Fassung der Verordnung (EU) 2026/1744.

Die KI-Verordnung kennt zwei Wege in die Hochrisiko-Klasse. Art. 6 Abs. 1 erfasst KI-Systeme, die Sicherheitsbauteil eines Produkts aus Anhang I sind oder selbst ein solches Produkt, etwa in Maschinen oder Medizinprodukten; dafür gelten die Pflichten ab dem 2. August 2028. Art. 6 Abs. 2 erfasst die Systeme aus Anhang III; dafür gelten die Pflichten ab dem 2. Dezember 2027. Im Büro eines mittelständischen Betriebs ist fast immer der zweite Weg gemeint.

Maßgeblich ist die Zweckbestimmung, also die Verwendung, für die ein System laut Anbieter bestimmt ist (Art. 3 Nr. 12). Dasselbe Sprachmodell kann in einem Einsatz harmlos sein und in einem anderen in Anhang III fallen.

Anhang III Nr. 1 bis 8

Nr.	Bereich	Beispiel aus dem Mittelstand
1	Biometrie: Fernidentifizierung, Kategorisierung nach sensiblen Merkmalen, Emotionserkennung	Beispiel: Kamerasystem, das Besucher am Werkstor per Gesichtsabgleich identifiziert. Nicht erfasst ist die biometrische Verifizierung, etwa der Fingerabdruck am Zutrittsleser.
2	Kritische Infrastruktur: Sicherheitsbauteil in digitaler Infrastruktur, Straßenverkehr, Wasser, Gas, Wärme, Strom	Beispiel: Stadtwerk mit KI-Steuerung als Sicherheitsbauteil im Wärmenetz
3	Allgemeine und berufliche Bildung: Zulassung, Bewertung von Lernergebnissen, Bildungsniveau, Prüfungsaufsicht	Beispiel: Weiterbildungsträger, der Prüfungsleistungen automatisch bewertet oder Prüfungen per Kamera überwacht
4	Beschäftigung und Personalmanagement	Beispiel Buchst. a: Vorauswahl von Bewerbungen. Beispiel Buchst. b: Schichtplanung, die Aufgaben nach individuellem Verhalten zuteilt, oder Leistungsbewertung von Beschäftigten
5	Grundlegende private und öffentliche Dienste	Beispiel Buchst. b: Händler mit Ratenkauf, der die Kreditwürdigkeit von Privatkunden per KI prüft. Buchst. c betrifft Lebens- und Krankenversicherungen, Buchst. d Notrufe
6	Strafverfolgung	nur Behörden oder in deren Namen; im Mittelstand allenfalls als Anbieter
7	Migration, Asyl, Grenzkontrolle	nur Behörden oder in deren Namen
8	Rechtspflege und demokratische Prozesse	Beispiel Buchst. a: Anbieter einer Plattform zur alternativen Streitbeilegung. Buchst. b betrifft Systeme zur Beeinflussung von Wahlen

Für den Mittelstand sind vor allem Nr. 4 und Nr. 5 Buchst. b relevant. Nr. 4 ist der häufigste Fall, weil jedes Haus Personal einstellt und viele Bewerbermanagementsysteme eine KI-Funktion anbieten. Die Pflichten dazu stehen unter KI in der Bewerberauswahl.

Nr. 1 Buchst. c stuft Emotionserkennung als Hochrisiko ein. Am Arbeitsplatz ist sie darüber hinaus nach Art. 5 Abs. 1 Buchst. f verboten, siehe Emotionserkennung am Arbeitsplatz.

Die Ausnahme nach Art. 6 Abs. 3 Buchst. a bis d

Ein System aus Anhang III gilt nach Art. 6 Abs. 3 Unterabs. 1 nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, unter anderem weil es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Unterabs. 2 nennt vier Bedingungen, von denen eine erfüllt sein muss. Erwägungsgrund 53 gibt zu jeder Beispiele.

Buchst.	Bedingung	Beispiel aus Erwägungsgrund 53
a	eng gefasste Verfahrensaufgabe	unstrukturierte Daten in strukturierte umwandeln, eingehende Dokumente in Kategorien einordnen, Duplikate erkennen
b	Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessern	Sprache eines fertigen Dokuments verbessern, etwa Ton oder Stil
c	Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern erkennen; nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen	nachträgliche Prüfung, ob eine Benotung vom bisherigen Muster abweicht
d	vorbereitende Aufgabe für eine Bewertung	Indexierung, Suche, Text- und Sprachverarbeitung, Übersetzung von Dokumenten

Übertragen auf die Personalauswahl: Ein System, das eingehende Bewerbungen in ein strukturiertes Formular überträgt und Dubletten markiert, kann unter Buchst. a fallen. Ein System, das Bewerbungen nach Eignung sortiert, fällt unter keine der vier Bedingungen, weil es die Auswahl selbst beeinflusst.

Die Bedingungen sind eng. Es genügt nicht, dass am Ende ein Mensch entscheidet. Erwägungsgrund 53 versteht ein System, das die Entscheidung nicht wesentlich beeinflusst, als eines, das keine Auswirkungen auf den Inhalt und damit das Ergebnis der Entscheidung hat.

Profiling hebt die Ausnahme auf

Art. 6 Abs. 3 Unterabs. 3 ist die Gegenausnahme: Ein System aus Anhang III gilt immer als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt. Profiling hat nach Art. 3 Nr. 52 KI-VO die Bedeutung aus Art. 4 Nr. 4 DSGVO: jede automatisierte Verarbeitung personenbezogener Daten, um persönliche Aspekte einer Person zu bewerten, insbesondere Arbeitsleistung, wirtschaftliche Lage, Gesundheit, Vorlieben, Interessen, Zuverlässigkeit oder Verhalten zu analysieren oder vorherzusagen.

In Nr. 4 und Nr. 5 liegt Profiling nahe. Wer Bewerber nach vorhergesagter Eignung bewertet oder Privatkunden nach vorhergesagter Zahlungsfähigkeit einstuft, bewertet persönliche Aspekte. Die Bedingungen aus Buchst. a bis d helfen dann nicht mehr.

Registrierung trotz Ausnahme

Wer als Anbieter meint, sein System aus Anhang III sei nach Art. 6 Abs. 3 nicht hochriskant, hat drei Pflichten:

Pflicht	Norm
Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird	Art. 6 Abs. 4 Satz 1
sich und das System in der EU-Datenbank registrieren	Art. 6 Abs. 4 Satz 2, Art. 49 Abs. 2
die Dokumentation auf Verlangen der Behörde vorlegen	Art. 6 Abs. 4 Satz 3

Die Ausnahme befreit von den Hochrisiko-Anforderungen; die Registrierung bleibt. Für den Betreiber heißt das: Nennt ein Lieferant ein System aus einem Anhang-III-Bereich „kein Hochrisiko“, fragen Sie nach der Bewertung und nach dem Eintrag in der Datenbank. Beides nimmt der Betreiber zu seinen Unterlagen.

Beispiel Mira (AI), AM-004

Mira (AI) arbeitet in der Bewerbervorauswahl. Ihre Akte stuft die Stelle als Hochrisiko nach Anhang III Nr. 4 Buchst. a ein: KI-Systeme für die Einstellung oder Auswahl natürlicher Personen, insbesondere um Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten.

Sie erfasst Abschluss, Berufsjahre und die im Profil geforderten Nachweise und gleicht sie gegen das Anforderungsprofil ab, das die Fachabteilung vorher schriftlich festgelegt hat. Zu jedem Kriterium vermerkt sie die Fundstelle im Dokument. Das ist Sichten im Sinne von Nr. 4 Buchst. a.

Man könnte den Abgleich als vorbereitende Aufgabe nach Art. 6 Abs. 3 Buchst. d lesen. Wir nehmen die Ausnahme nicht in Anspruch. Ein Abgleich von Bewerbungen gegen ein Anforderungsprofil bewertet Aspekte der Arbeitsleistung einer Person und liegt damit nahe am Profiling nach Unterabs. 3. Die Stelle wird deshalb als Hochrisiko geführt.

Was daraus für ihre Arbeit folgt, steht in der Akte:

Regel	aus der Akte AM-004
Keine Rangfolge	die Übersicht geht in Eingangsreihenfolge an die Personalabteilung, ohne Punktzahl
Keine Ablehnung	sie lehnt niemanden ab und schreibt weder Absagen noch Einladungen
Ohne Foto, keine AGG-Merkmale	aus dem Bewerbermanagement gibt der Connector nur die freigegebenen Felder weiter, ohne Foto; Merkmale aus § 1 AGG wertet sie nicht aus, die Übersicht wird gegen ein festes Format geprüft
Lücken	Lücken im Lebenslauf werden vermerkt und nicht bewertet
Folgenabschätzung	für die DSFA nach Art. 35 DSGVO liegt eine vorausgefüllte Vorlage bei; die Abschätzung selbst macht Ihr Haus

Die Pflichten für Anhang-III-Systeme gelten ab dem 2. Dezember 2027. Die Regeln aus der Tabelle gelten für die Stelle von Anfang an, und die Einstufung prüfen wir vor dem Einsatz mit Anwalt oder Datenschutzbeauftragtem.

Ob ein System im Haus in Anhang III fällt, klären fünf Fragen unter Einstufung nach der KI-Verordnung.

Häufige Fragen

Ist ein Chatbot auf der Website ein Hochrisiko-System?

In aller Regel nicht. Ein solcher Chatbot beantwortet Fragen und entscheidet in keinem Bereich aus Anhang III über Menschen. Für den Chatbot gilt die Kennzeichnung nach Art. 50 Abs. 1 KI-VO. Anders wird es, wenn derselbe Chatbot Bewerbungen annimmt und aussortiert.

Wer entscheidet, ob die Ausnahme nach Art. 6 Abs. 3 greift?

Der Anbieter. Er dokumentiert seine Bewertung vor dem Inverkehrbringen oder der Inbetriebnahme (Art. 6 Abs. 4) und legt sie der Behörde auf Verlangen vor. Als Betreiber lassen Sie sich diese Dokumentation geben und nehmen sie zu den Unterlagen.

Ab wann gelten die Pflichten für Hochrisiko-Systeme?

Für Systeme nach Anhang III ab dem 2. Dezember 2027, für Systeme nach Art. 6 Abs. 1 und Anhang I ab dem 2. August 2028 (Art. 113 Buchst. c KI-VO). Die DSGVO gilt für dieselben Systeme schon heute.

Macht ein menschlicher Klick am Ende das System risikoärmer?

Nicht von selbst. Art. 6 Abs. 3 fragt, ob das System das Ergebnis der Entscheidung wesentlich beeinflusst. Übernimmt der Mensch den Vorschlag regelmäßig ungeprüft, spricht viel dafür, dass das System die Entscheidung wesentlich beeinflusst, auch mit Klick.

Hoch­risiko-KI: Beispiele aus Anhang III