Wer heute KI einsetzt, ist fast immer Betreiber und fast nie Anbieter. Das entscheidet über den gesamten Pflichtenkatalog – und wird regelmäßig verwechselt.
Dieser Beitrag beschreibt, wie wir die Vorschriften verstehen und was wir daraus für den eigenen Betrieb ableiten. Eine Rechtsberatung im Einzelfall ist er nicht und darf er nicht sein. Für die Einstufung Ihrer Anwendung und die Bewertung Ihrer Pflichten brauchen Sie Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten und gegebenenfalls anwaltliche Beratung.
Der Zeitplan
| Datum | Was gilt |
|---|---|
| 1. August 2024 | Verordnung (EU) 2024/1689 tritt in Kraft |
| 2. Februar 2025 | Verbotene Praktiken; Pflicht zur KI-Kompetenz des Personals (Art. 4) |
| 2. August 2025 | Pflichten für Anbieter von Modellen mit allgemeinem Verwendungszweck; Vorschriften zu Governance und Sanktionen |
| 2. August 2026 | Anwendung im Übrigen; Transparenzpflichten nach Art. 50 |
| 2. Dezember 2027 | Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III – verschoben, siehe Kasten |
| 2. August 2028 | Hochrisiko-Systeme, die in regulierte Produkte eingebettet sind (Anhang I) |
Als dieser Beitrag erschien, standen die Pflichten für Hochrisiko-Systeme nach Anhang III noch auf dem 2. August 2026. Inzwischen gilt etwas anderes: Die Verordnung (EU) 2026/1744 – der „Digital Omnibus on AI“ – wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist am 27. Juli 2026 in Kraft getreten. Sie verschiebt die Pflichten für eigenständige Anhang-III-Systeme auf den 2. Dezember 2027 und für in Produkte eingebettete Systeme nach Anhang I auf den 2. August 2028.
Unverändert bleibt alles, worum es in diesem Beitrag geht: die verbotenen Praktiken, die Pflicht zur KI-Kompetenz nach Art. 4 und die Transparenzpflichten nach Art. 50, die seit dem 2. August 2026 gelten. Der allgemeine Anwendungsbeginn am 2. August 2026 ist ebenfalls unberührt.
Wir lassen den Beitrag stehen und tragen die Änderung hier nach, statt die Tabelle stillschweigend zu ändern. Eine Zeitleiste, die sich unbemerkt verschiebt, ist schlimmer als eine, die ihre eigene Korrektur mitführt.
Die Aufmerksamkeit richtet sich seit jeher auf die Hochrisiko-Zeilen – und die sind jetzt noch weiter weg. Die erledigte Arbeit liegt in der zweiten Zeile, und die ist seit anderthalb Jahren fällig.
Art. 4: die Vorschrift, die alle betrifft
Seit Februar 2025 müssen Anbieter und Betreiber dafür sorgen, dass ihr Personal über ausreichende KI-Kompetenz verfügt – angemessen zu Kenntnisstand, Einsatzzweck und betroffenen Personen.
Drei Eigenschaften machen diese Vorschrift unbequem:
- Sie gilt unabhängig von der Risikostufe. Auch wer nur ein Textmodell zum Formulieren einsetzt, fällt darunter.
- Sie lässt sich nicht auslagern. Kein Anbietervertrag erfüllt sie. Sie betrifft Ihr Personal.
- Sie ist nicht konkretisiert. Was „ausreichend“ heißt, steht nicht im Text – was die Nachweisführung erschwert und die Pflicht nicht aufhebt.
In der Praxis heißt das: Dokumentieren Sie, wer wann worin geschult wurde. Ein Vermerk mit Datum, Teilnehmerliste und Inhaltsübersicht ist der Nachweis, nach dem im Zweifel gefragt wird. Er ist an einem Nachmittag erstellt und im Nachhinein nicht.
Anbieter oder Betreiber – der Rollenwechsel
Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen in Verkehr bringt. Betreiber ist, wer es unter eigener Verantwortung verwendet. Die allermeisten Organisationen sind Betreiber.
Wer ein System unter eigenem Namen bereitstellt, seinen Zweck wesentlich ändert oder ein Hochrisiko-System wesentlich verändert, wird selbst zum Anbieter – mit einem erheblich größeren Pflichtenkatalog. Eine eigene Feinabstimmung eines Modells kann diesen Punkt erreichen. Wer das plant, sollte es vorher rechtlich prüfen lassen, nicht nachher.
Was Betreiber konkret tun müssen
- Bestand aufnehmen Welche KI-Systeme sind im Einsatz – auch die, die niemand angemeldet hat? Erfahrungsgemäß ist das die längere Liste.
- Einstufen Verbotene Praktik, Hochrisiko nach Anhang III, begrenztes Risiko mit Transparenzpflicht oder minimal? Für die meisten Textanwendungen ist es die letzte Stufe.
- Schulen und dokumentieren Art. 4, siehe oben.
- Transparenzpflichten prüfen Wer mit Menschen interagierende Systeme einsetzt oder synthetische Inhalte veröffentlicht, muss das erkennbar machen.
- Mit dem Datenschutz verzahnen Verarbeitungsverzeichnis und gegebenenfalls Folgenabschätzung laufen parallel. Zwei getrennte Projekte daraus zu machen, verdoppelt die Arbeit.
Was das für die Auswahl eines Anbieters heißt
Die Verordnung verlangt vom Betreiber, das System bestimmungsgemäß einzusetzen und die Anweisungen des Anbieters zu beachten. Das setzt voraus, dass es welche gibt.
Eine brauchbare Prüffrage an jeden Anbieter lautet deshalb: Welche Angaben stellen Sie mir bereit, damit ich meine Betreiberpflichten erfüllen kann? Wer darauf mit einem Verkaufsprospekt antwortet, hat die Frage nicht verstanden.
Wir sehen für den Behördenzugang ein Datenblatt je Modell vor: Herkunft, Lizenz, Trainingsstand, bekannte Grenzen. Nicht weil es hübsch aussieht, sondern weil es genau diese Angaben sind, die ein Betreiber braucht.