Behörden führen keine Modellvergleiche. Sie führen Verarbeitungsverzeichnisse. Wer eine KI-Anwendung einsetzen will, braucht auf fünf Fragen eine Antwort, die sich zu Papier bringen lässt.
Dieser Beitrag beschreibt, wie wir die Vorschriften verstehen und was wir daraus für den eigenen Betrieb ableiten. Eine Rechtsberatung im Einzelfall ist er nicht und darf er nicht sein. Für die Bewertung Ihrer Verarbeitung brauchen Sie Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten.
1. Auf welcher Rechtsgrundlage verarbeiten wir?
Jede Verarbeitung personenbezogener Daten braucht eine Grundlage nach Art. 6 DSGVO. Bei Behörden ist das regelmäßig die Wahrnehmung einer im öffentlichen Interesse liegenden Aufgabe – nicht die Einwilligung, weil im Über-Unterordnungsverhältnis die Freiwilligkeit fraglich ist.
Die praktische Folge wird oft übersehen: Wenn die Rechtsgrundlage die Aufgabenerfüllung ist, muss der KI-Einsatz zu dieser Aufgabe gehören. „Wir wollten es ausprobieren“ ist keine Aufgabe.
2. Wer verarbeitet wo – und wer könnte zugreifen?
Drei getrennte Fragen, die gern zu einer verschmelzen:
- Wo steht die Hardware? Ein Ort, kein Wirtschaftsraum. „Innerhalb der EU“ ist keine Antwort, die in ein Verarbeitungsverzeichnis passt.
- Wer betreibt sie? Die vertragschließende Gesellschaft, mit Sitz und Rechtsform.
- Wem gehört der Betreiber? Wenn eine Muttergesellschaft in einem Drittland nach dortigem Recht Herausgabe verlangen kann, liegt ein Zugriffsrisiko vor – unabhängig davon, wo das Blech steht.
Anbieter, die auf die dritte Frage ausweichend antworten, beantworten damit die erste gleich mit.
3. Wie lange existiert eine Eingabe?
Die Frage lautet nicht „wird mit meinen Daten trainiert“. Das ist die bekanntere Frage und die kleinere. Die größere lautet: Wie lange liegt der eingegebene Text auf einem Speichermedium des Anbieters, und wer kann in dieser Zeit darauf zugreifen?
Für ein Verarbeitungsverzeichnis brauchen Sie eine Frist in Tagen. Formulierungen wie „nur so lange wie nötig“ oder „wir speichern keine Inhalte zu Trainingszwecken“ beantworten die Frage nicht – die erste ist keine Frist, die zweite nennt einen Zweck statt einer Dauer.
„Wenn eine betroffene Person heute Auskunft nach Art. 15 DSGVO verlangt – was genau würden Sie über deren Eingaben herausgeben können?“ Ein Anbieter, der darauf keine klare Antwort hat, hat kein Löschkonzept.
4. In welcher Rolle stehen wir nach der KI-Verordnung?
Seit dem 2. Februar 2025 gelten die Vorschriften zu verbotenen Praktiken und – für jeden Betreiber – die Pflicht, für ausreichende KI-Kompetenz des eingesetzten Personals zu sorgen. Seit dem 2. August 2025 gelten die Pflichten für Anbieter von Modellen mit allgemeinem Verwendungszweck.
Für die meisten Behörden gilt: Sie sind Betreiber, nicht Anbieter. Die Rolle wechselt allerdings, wenn ein System unter eigenem Namen bereitgestellt oder wesentlich verändert wird – etwa durch eine eigene Feinabstimmung. Dann kommt ein deutlich größerer Pflichtenkatalog dazu.
Die Kompetenzpflicht lässt sich nicht auslagern. Kein Anbietervertrag erfüllt sie.
5. Was passiert, wenn das Modell sich irrt?
Die Frage, die in Beschaffungsunterlagen am seltensten steht und in der Praxis am meisten Ärger macht.
Sprachmodelle erzeugen plausibel klingende falsche Angaben – erfundene Paragrafen, falsche Aktenzeichen, Zahlen, die aussehen wie recherchiert. Das ist kein Defekt, sondern eine Eigenschaft der Technik.
Für die Verwaltung heißt das: Der KI-Einsatz verschiebt Arbeit vom Schreiben zum Gegenlesen. Wer das einkalkuliert, gewinnt trotzdem Zeit. Wer damit rechnet, Prüfschritte einzusparen, baut ein Risiko auf, das irgendwann in einem Bescheid landet.
Reasoning-Modelle zeigen ihre Zwischenschritte an. Das sieht aus wie eine Begründung und ist keine – es ist Text, der auf dem Weg zur Antwort entsteht, kein Protokoll des Rechenwegs. Ein Verwaltungsakt, der sich darauf stützt, stützt sich auf nichts.
Was das für die Auswahl heißt
Fünf Fragen, und keine davon betrifft die Modellqualität. Das ist kein Zufall. Ein etwas schwächeres Modell mit belastbaren Antworten ist für eine Behörde brauchbar; ein hervorragendes Modell ohne sie nicht.
Wir bauen deshalb den Behördenzugang um diese fünf Fragen herum: Verarbeitung an einem benannten Ort, Löschkonzept in Tagen, kein Trainings- und Weitergabezweck, Datenblatt je Modell mit Herkunft und Lizenz, Vertragsanlage mit den technischen und organisatorischen Maßnahmen.
Was wir nicht haben: BSI-C5-Testat, ISO 27001, VS-Freigabe. Wer eines davon als Eignungskriterium führt, kann uns nicht beauftragen – und sollte das aus dieser Aufstellung erfahren und nicht aus einer Absage.