KI für Behörden: DSGVO, Auftragsverarbeitung und Datenhoheit in Deutschland

KI für Behörden: DSGVO, Auftragsverarbeitung und Datenhoheit in Deutschland

Für eine Behörde ist die Frage nach künstlicher Intelligenz selten eine Frage nach Leistung. Sie ist eine Frage nach Zuständigkeit, Vertrag und Nachweisbarkeit. Ein Sachbearbeiter darf einen Vorgang nicht in ein Eingabefeld kopieren, dessen Gegenstelle in einem Drittland steht – unabhängig davon, wie gut die Antwort wäre.

Die fünf Punkte, an denen es in der Praxis scheitert

• Auftragsverarbeitung. Ohne einen Vertrag nach Art. 28 DSGVO ist jede Übermittlung personenbezogener Daten an einen Dienstleister rechtswidrig. Viele KI-Anbieter bieten einen an – manche nur im höchsten Tarif, manche nur auf Englisch, manche mit Unterauftragsverarbeitern in Ländern ohne Angemessenheitsbeschluss.
• Serverstandort. Nicht der Firmensitz des Anbieters entscheidet, sondern der Ort der Verarbeitung – und ob eine Muttergesellschaft nach fremdem Recht Zugriff verlangen kann.
• Löschkonzept. Eine Behörde muss angeben können, wie lange eine Eingabe existiert. „Wird nicht zum Training verwendet“ ist keine Antwort auf diese Frage.
• Verarbeitungsverzeichnis. Der Dienst muss so beschreibbar sein, dass er in ein Verzeichnis nach Art. 30 DSGVO passt. Das setzt voraus, dass der Anbieter Kategorien, Empfänger und Fristen benennt.
• KI-Verordnung. Seit Februar 2025 gelten die Vorschriften zu verbotenen Praktiken und zur KI-Kompetenz des Personals; die Pflichten für Modelle mit allgemeinem Verwendungszweck folgten im August 2025. Wer KI einsetzt, muss wissen, in welche Rolle er dabei gerät.

Die Frage, die in Vergabeunterlagen falsch gestellt wird

„Vollständige digitale Souveränität“ ist als Anforderung unbrauchbar, weil sie niemand erfüllen kann: Die Beschleunigerkarten, auf denen Sprachmodelle wirtschaftlich laufen, werden nicht in Europa gefertigt. Wer die Bedingung so formuliert, bekommt entweder kein Angebot oder ein unehrliches.

Brauchbar wird sie, wenn sie nach Stufen fragt – und die erste ist die entscheidende: Verlässt eine Anfrage den Verantwortungsbereich des Anbieters, und steht eine fremde Modell-API dahinter? Diese Frage muss ein Anbieter mit Nein beantworten und erklären können, wodurch er es sicherstellt. Sie bricht den meisten Angeboten, die mit „europäischer KI“ werben, das Genick.

Wir beantworten sie unter Unabhängigkeit von Nicht-EU-Ländern: vier Stufen, mit dem, was wir erreichen, und dem, was nicht. Für die Leistungsbeschreibung stehen dort fünf Prüffragen, von denen drei als Ausschlusskriterium taugen und zwei nicht.

Was wir dafür vorsehen

Der Behördentarif ist kein Marketingpaket, sondern der Versuch, diese fünf Punkte schriftlich beantwortbar zu machen: Auftragsverarbeitungsvertrag auf Deutsch, benannte Unterauftragsverarbeiter, Verarbeitung ausschließlich in Bertingen, dokumentiertes Löschkonzept ohne Gesprächshistorie und ein Datenblatt je Modell mit Herkunft, Lizenz und Trainingsstand.

Für Bereiche mit erhöhtem Schutzbedarf ist ein exklusiver Server vorgesehen: eigene Hardware, keine Mandantentrennung per Software, sondern per Blech. Das ist die Enterprise-Ausbaustufe und läuft über eine Einzelvereinbarung.

Was wir nicht versprechen

Wir sind kein zertifizierter Cloud-Anbieter. Es liegt kein BSI-C5-Testat vor und keine ISO-27001-Zertifizierung. Wer beides als Vergabekriterium führt, kann uns heute nicht beauftragen – das ist unangenehm, aber besser jetzt gesagt als in der Angebotsprüfung. Auch eine Freigabe für Verschlusssachen gibt es nicht.

Ebenso wenig können wir Ihnen die Datenschutz-Folgenabschätzung abnehmen. Wir können sie mit Angaben füllen, die stimmen. Machen müssen Sie sie selbst.