„Läuft lokal“ heißt nur, dass das Modell auf Ihrer Hardware rechnet. Ob dabei etwas hinausgeht, ist eine völlig andere Frage – und die wird selten gestellt.

Dies ist die technische Fassung von Stufe 1 unserer Unabhängigkeitsstufen: der Zustand, in dem eine Maschine Anfragen beantwortet und sonst nichts tut.

Wer telefoniert, und warum

Fast nichts davon ist böse gemeint. Die meisten dieser Verbindungen entstehen aus nachvollziehbaren Gründen und sind in der Vorgabe eingeschaltet, weil das für den Hersteller bequemer ist.

WasWohinWarum es eingebaut ist
Modellgewichte nachladenModell-VerzeichnisdiensteBequemlichkeit: Das Modell wird beim ersten Start heruntergeladen. Praktisch – und ein Grund, warum die Maschine ans Netz muss.
Telemetrie der Serving-SoftwareHersteller oder AnalysedienstNutzungsstatistik zur Weiterentwicklung. Häufig anonymisiert, häufig trotzdem mit Kennung.
AktualisierungsprüfungPaketverzeichnisSicherheitshinweise. Verrät dabei, welche Fassung wo läuft.
AbsturzberichteFehlerdienstFehlersuche beim Hersteller. Berichte enthalten gelegentlich Speicherauszüge.
ZeitabgleichZeitserverZwingend nötig – aber ein eigener Zeitserver im Netz tut es auch.
ZertifikatsprüfungOCSP-DienstePrüfung, ob ein Zertifikat zurückgezogen wurde.
Container-AbbilderRegistryBeim Start eines Dienstes wird das Abbild geholt, oft ohne feste Versionsangabe.
Der Fall, der alles andere überflüssig macht

Manche Angebote, die mit „europäischer KI“ werben, sind eine Weboberfläche vor der Schnittstelle eines amerikanischen Anbieters. Dann läuft überhaupt nichts lokal, und jede Diskussion über Telemetrie ist gegenstandslos.

Die Prüffrage dafür ist unangenehm einfach und lautet nicht „läuft es bei Ihnen“, sondern: Welches Modell läuft auf welcher Maschine, und was passiert, wenn Sie deren Internetzugang abschalten?

Die Prüfung, die eine Stunde dauert

Man braucht dafür keine Werkzeuge, die es nicht ohnehin gibt.

  1. Mitschneiden, bevor gesperrt wird Eine Stunde normalen Betrieb aufzeichnen und ansehen, wohin Verbindungen gehen. Die Liste ist fast immer länger als erwartet – und der interessanteste Eintrag steht selten oben.
  2. Namensauflösung protokollieren Ein DNS-Protokoll verrät mehr als der Verkehr selbst. Was aufgelöst wird, wird gebraucht; was ohne erkennbaren Anlass aufgelöst wird, ist die eigentliche Frage.
  3. Ausgang sperren, Vorgabe auf Verweigern Nicht einzelne Ziele blockieren, sondern alles – und dann öffnen, was nachweislich gebraucht wird. Der umgekehrte Weg findet nie ein Ende.
  4. Beobachten, was kaputtgeht Der aufschlussreichste Schritt. Was jetzt nicht mehr funktioniert, hat vorher telefoniert. Manches davon ist zu Recht dort – der Zeitabgleich etwa – und bekommt eine Ausnahme auf einen Server im eigenen Netz.
  5. Ausnahmen aufschreiben Jede geöffnete Verbindung mit Ziel, Grund und Datum. Diese Liste ist die Anlage, nach der eine Datenschutzbeauftragte fragt – und sie entsteht nur, wenn man sie beim Öffnen schreibt, nicht danach.

Was ein sauberer Zustand bedeutet

Am Ende steht eine Maschine, die eingehende Anfragen beantwortet und von sich aus keine Verbindung aufbaut. Modellgewichte liegen als Datei auf der Platte, eingespielt in einem beaufsichtigten Vorgang. Aktualisierungen werden bewusst eingespielt, nicht im laufenden Betrieb geholt.

Der Preis dafür ist Handarbeit. Ein Modell, das man selbst herunterlädt, prüft und kopiert, ist mühsamer als eines, das beim Start erscheint. Aktualisierungen, die jemand einspielt, sind mühsamer als solche, die sich selbst holen.

Dafür lässt sich die Aussage „Ihre Daten verlassen dieses Haus nicht“ mit einer Firewall-Regel belegen statt mit einem Absatz in den Geschäftsbedingungen.

Zwei ehrliche Einschränkungen

  • Der Verwaltungszugang bleibt. Irgendjemand muss auf die Maschine kommen können. Dieser Weg ist der verbleibende – abgesichert über getrennte Konten, Zwei-Faktor-Anmeldung und protokollierte Zugriffe, aber er existiert. Wer ihn ausschließen will, braucht eine Maschine ohne Netz und einen Menschen mit Schlüssel.
  • Firmware liest niemand. In Netzwerkkarten, Laufwerken und Netzteilen steckt Code, den kein Betreiber prüft. Ein Egress-Filter fängt, was darüber liefe – aber nur, wenn er unterhalb der Firmware sitzt, also im Netz und nicht auf demselben Rechner.

Warum das Stufe 1 ist und nicht das Ziel

Weil es die einzige Stufe ist, die vollständig gelingt. Die Software darunter ist quelloffen, aber nicht restlos; die Modelle kommen überwiegend nicht aus Europa; die Beschleunigerkarten gar nicht.

Das vollständige Bild samt der Stufen, die wir nicht erreichen, steht unter Unabhängigkeit von Nicht-EU-Ländern. Wer nur eine Sache aus diesem Beitrag mitnimmt, dann diese: „Läuft lokal“ ist eine Aussage über den Ort. „Telefoniert nicht nach Hause“ ist eine über das Verhalten. Die zweite ist die, die zählt – und die einzige, die sich in einer Stunde nachprüfen lässt.