Auf dieser Seite
Kurz gesagt: Betreiber ist, wer ein KI-System in eigener Verantwortung einsetzt; Anbieter, wer es entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Aus dem Betreiber wird ein Anbieter, wenn er ein Hochrisiko-System unter eigenem Namen weitergibt, es wesentlich verändert oder den Zweck eines Systems so ändert, dass es hochriskant wird (Art. 25 Abs. 1 KI-VO). Bei einer Stelle von uns sind wir Anbieter, und Ihr Haus ist Betreiber.
Rechtsstand: 28. September 2026, KI-VO in der Fassung der Verordnung (EU) 2026/1744.
Die KI-Verordnung verteilt ihre Pflichten nach Rollen. Wer welche Rolle hat, entscheidet, welche Artikel gelten. Die zwei Rollen, die im Mittelstand vorkommen, sind Anbieter und Betreiber. Einführer und Händler (Art. 3 Nr. 6 und 7) spielen für Betriebe, die KI-Systeme nur einsetzen, selten eine Rolle.
Die zwei Rollen
| Anbieter, Art. 3 Nr. 3 | Betreiber, Art. 3 Nr. 4 | |
|---|---|---|
| Wer | natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle | natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle |
| Tätigkeit | entwickelt ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck oder lässt es entwickeln | verwendet ein KI-System in eigener Verantwortung |
| Anknüpfung | bringt es unter eigenem Namen oder eigener Handelsmarke in Verkehr oder nimmt es so in Betrieb, entgeltlich oder unentgeltlich | außer bei persönlicher, nicht beruflicher Tätigkeit |
| Typisch | Hersteller einer Software, Entwickler einer Anwendung, Modellanbieter | Unternehmen, das ein eingekauftes System im Betrieb nutzt |
Zwei Begriffe hängen daran. Die Zweckbestimmung (Art. 3 Nr. 12) ist die Verwendung, für die ein System laut Anbieter bestimmt ist, nach Betriebsanleitung, Werbe- und Verkaufsmaterial und technischer Dokumentation. Die wesentliche Veränderung (Art. 3 Nr. 23) ist eine Veränderung nach dem Inverkehrbringen oder der Inbetriebnahme, die in der ursprünglichen Konformitätsbewertung nicht vorgesehen war und die Konformität beeinträchtigt oder die Zweckbestimmung ändert.
Die Rollen schließen sich nicht aus. Ein Betrieb, der eine eigene Anwendung entwickelt und selbst im Haus nutzt, ist Anbieter und Betreiber zugleich. Nach Art. 3 Nr. 3 genügt die Inbetriebnahme unter eigenem Namen; ein Verkauf an Dritte ist nicht nötig.
Pflichten je Rolle
| Pflicht | Anbieter | Betreiber | Norm |
|---|---|---|---|
| KI-Kompetenz fördern | ja | ja | Art. 4 |
| Verbotene Praktiken unterlassen | Inverkehrbringen, Inbetriebnahme | Verwendung | Art. 5 |
| Interaktion erkennbar machen | ja, bei der Gestaltung | Art. 50 Abs. 1 | |
| Erzeugte Inhalte maschinenlesbar markieren | ja | Art. 50 Abs. 2 | |
| Über Emotionserkennung und biometrische Kategorisierung informieren | ja | Art. 50 Abs. 3 | |
| Deepfakes und Texte von öffentlichem Interesse offenlegen | ja | Art. 50 Abs. 4 | |
| Hochrisiko: Anforderungen, Qualitätsmanagement, Konformitätsbewertung, CE-Kennzeichnung, Registrierung | ja | Art. 16 | |
| Hochrisiko: Verwendung nach Betriebsanleitung, menschliche Aufsicht, Protokolle, Information der Beschäftigten | ja | Art. 26 | |
| Grundrechte-Folgenabschätzung | nur bestimmte Betreiber | Art. 27 |
Die Tabelle zeigt das Gefälle. Bei Hochrisiko-Systemen trägt der Anbieter den Großteil: Er muss nach Art. 16 sicherstellen, dass das System die Anforderungen aus Kapitel III Abschnitt 2 erfüllt, ein Qualitätsmanagementsystem führen, die Konformitätsbewertung durchlaufen, die EU-Konformitätserklärung ausstellen und das System registrieren. Der Betreiber verwendet es bestimmungsgemäß und beaufsichtigt es. Beide Pflichtenblöcke gelten für Anhang III ab dem 2. Dezember 2027. Die Übersicht der Fristen steht unter KI-Verordnung für den Mittelstand.
Wer die Transparenzpflichten nach Art. 50 im Einzelnen trägt, steht unter KI-Kennzeichnungspflicht.
Wann die Rolle wechselt
Art. 25 Abs. 1 nennt drei Fälle, in denen ein Händler, Einführer, Betreiber oder sonstiger Dritter als Anbieter eines Hochrisiko-Systems gilt und die Anbieterpflichten aus Art. 16 übernimmt:
| Buchst. | Fall | Beispiel |
|---|---|---|
| a | Ein bereits in Verkehr gebrachtes Hochrisiko-System wird mit dem eigenen Namen oder der eigenen Handelsmarke versehen, unbeschadet vertraglicher Vereinbarungen über eine andere Aufteilung | Beispiel: Personaldienstleister vertreibt ein zugekauftes Auswahlsystem unter eigener Marke an Kunden |
| b | Ein Hochrisiko-System wird wesentlich verändert und bleibt hochriskant | Beispiel: Betrieb baut in ein eingekauftes Auswahlsystem eigene Bewertungskriterien ein, die der Anbieter nicht vorgesehen hat |
| c | Die Zweckbestimmung eines Systems, das nicht als hochriskant eingestuft war, wird so geändert, dass es hochriskant wird; das gilt auch für KI-Systeme mit allgemeinem Verwendungszweck | Beispiel: allgemeine Texthilfe wird im Haus eingerichtet, um Bewerbungen zu bewerten |
Buchst. c ist für den Mittelstand der praktisch wichtigste Fall. Ein Sprachmodell, das als allgemeiner Assistent angeboten wird, ist kein Hochrisiko-System. Wird es so eingerichtet, dass es Bewerbungen sichtet und bewertet, fällt der Einsatz unter Anhang III Nr. 4 Buchst. a, und der Betrieb, der diese Änderung vornimmt, ist für dieses System Anbieter. Welche Einsätze in Anhang III fallen, steht unter Hochrisiko-KI: Beispiele aus Anhang III.
Nach Art. 25 Abs. 2 gilt der ursprüngliche Anbieter in diesen Fällen nicht mehr als Anbieter dieses konkreten Systems. Er muss aber mit dem neuen Anbieter zusammenarbeiten, die nötigen Informationen bereitstellen und technischen Zugang gewähren. Das entfällt, wenn er eindeutig festgelegt hat, dass sein System nicht in ein Hochrisiko-System umgewandelt werden darf.
Für Systeme, die weder hochriskant sind noch durch die Änderung werden, gilt Art. 25 Abs. 1 nicht. Dort bleibt es bei den Begriffen aus Art. 3: Wer ein System entwickeln lässt und unter eigenem Namen in Betrieb nimmt, ist Anbieter.
Wer bei einer Stelle was ist
Bei einer Stelle aus unserer Belegschaft sind die Rollen verteilt:
| Rolle | Wer | Grundlage |
|---|---|---|
| Anbieter der Stelle | wir: wir entwickeln die Stelle und nehmen sie unter unserem Namen für Ihr Haus in Betrieb | Art. 3 Nr. 3 KI-VO |
| Betreiber | Ihr Haus: Sie verwenden die Stelle in eigener Verantwortung für Ihren Vorgang | Art. 3 Nr. 4 KI-VO |
| Anbieter des Sprachmodells | der Modellanbieter, mit eigenen Pflichten für KI-Modelle mit allgemeinem Verwendungszweck | Art. 3 Nr. 3, Kapitel V KI-VO |
| Verantwortlicher und Auftragsverarbeiter im Datenschutz | Ihr Haus und wir | Art. 4 Nr. 7, Art. 28 DSGVO |
Beispiel Jonas (AI), Rechnungseingang. Er holt Belege aus Exchange, DATEV Unternehmen online und sFTP, gleicht gegen Bestellung und Wareneingang ab und kontiert nach dem Kontenrahmen des Hauses vor. Seine Akte stuft ihn als kein Hochrisiko ein: Rechnungsverarbeitung ist kein Anwendungsfall aus Anhang III, entschieden wird über keine natürliche Person.
Für Ihr Haus als Betreiber heißt das: Art. 26 gilt für Jonas (AI) nicht. Es gelten Art. 4 für die Personen, die mit ihm arbeiten, und die Kennzeichnung (AI), die wir als Anbieter einbauen, denn er tritt mit Beschäftigten in Kontakt. Fachlich berichtet er an die Leitung Buchhaltung; freigegeben wird auf der Karte, und Zahlungen löst nur ein Mensch aus.
Die Einstufung hängt am Vorgang. Würde dieselbe Technik in Ihrem Haus umgestellt, um etwa Bewerbungen zu bewerten, wäre das eine Änderung der Zweckbestimmung nach Art. 25 Abs. 1 Buchst. c, und die Rollen wären neu zu prüfen. Deshalb steht in jeder Akte das Aufgabengebiet mit den Befugnissen je Tätigkeitsart, und jede Änderung einer Grenze geht mit Datum in die Akte. Welche Unterlagen wir für Ihre Rolle liefern, steht unter Leitplanken.
Ob ein eigener Einsatz in Anhang III fällt und welche Rolle Ihr Haus dabei hat, klären fünf Fragen unter Einstufung nach der KI-Verordnung.
Häufige Fragen
Wir haben ChatGPT eingekauft und nutzen es im Büro. Welche Rolle haben wir?
Betreiber nach Art. 3 Nr. 4 KI-VO: Sie verwenden ein KI-System in eigener Verantwortung für berufliche Zwecke. Anbieter ist der Hersteller. Das ändert sich, wenn Sie daraus eine eigene Anwendung bauen und unter Ihrem Namen anbieten oder in Betrieb nehmen.
Werden wir Anbieter, wenn wir die Anweisungen eines Systems anpassen?
Nicht allein dadurch. Art. 25 Abs. 1 KI-VO nennt drei Fälle: eigener Name auf einem Hochrisiko-System, wesentliche Veränderung eines Hochrisiko-Systems, Änderung der Zweckbestimmung, durch die ein System hochriskant wird. Wer eine Texthilfe so umstellt, dass sie Bewerbungen bewertet, trifft den dritten Fall.
Gilt die Rollenverteilung auch im Datenschutz?
Nein, die DSGVO hat eigene Rollen. Dort ist Ihr Haus Verantwortlicher nach Art. 4 Nr. 7 DSGVO, und wer in Ihrem Auftrag verarbeitet, ist Auftragsverarbeiter nach Art. 28. Beide Zuordnungen werden getrennt geprüft.
Hat ein Betreiber ohne Hochrisiko-System überhaupt Pflichten?
Ja. Art. 4 KI-VO (KI-Kompetenz) gilt für jeden Betreiber, dazu die Verbote aus Art. 5 und je nach System die Transparenzpflichten aus Art. 50 Abs. 3 und 4. Die umfangreichen Pflichten aus Art. 26 kommen erst mit einem Hochrisiko-System hinzu.
Quellen
- Art. 3 KI-VO, Begriffsbestimmungen (Nr. 3, 4, 12, 23)
- Art. 16 KI-VO, Pflichten der Anbieter von Hochrisiko-KI-Systemen
- Art. 25 KI-VO, Verantwortlichkeiten entlang der KI-Wertschöpfungskette
- Art. 26 KI-VO, Pflichten der Betreiber von Hochrisiko-KI-Systemen
- Art. 50 KI-VO, Transparenzpflichten
- Art. 4 KI-VO, KI-Kompetenz
- Art. 28 DSGVO, Auftragsverarbeiter