Wer wissen will, warum ein KI-Zugang kostet, was er kostet, muss nur eine Größe verstehen: Grafikspeicher. Alles andere folgt daraus.
Die Grundrechnung
Ein Modell muss vollständig in den Speicher der Grafikkarte passen, sonst läuft es nicht oder um Größenordnungen langsamer. Der Bedarf lässt sich abschätzen:
Ein Modell mit 7 Milliarden Parametern braucht bei 16 Bit je Parameter etwa 14 GB, bei 8 Bit etwa 7 GB, bei 4 Bit etwa 3,5 GB. Ein Modell mit 70 Milliarden Parametern das Zehnfache. Dazu kommt der Zwischenspeicher für den Kontext, der bei langen Eingaben den Modellbedarf übersteigen kann.
Daraus ergibt sich unmittelbar, welche Modelle auf welcher Hardware laufen – und warum die Preisstaffel eines Anbieters aussieht, wie sie aussieht.
Drei Posten, in der Reihenfolge ihrer Bedeutung
Erstens: die Karte
Professionelle Beschleunigerkarten mit viel Speicher kosten je nach Klasse einen niedrigen bis mittleren fünfstelligen Betrag. Sie sind der mit Abstand größte Einzelposten, und sie werden über einige Jahre abgeschrieben. Was die Monatsrate bestimmt, ist also nicht der Kaufpreis, sondern der Kaufpreis geteilt durch die Nutzungsdauer.
Hier liegt der erste Denkfehler beim Eigenbetrieb: Eine Karte, die zu fünf Prozent ausgelastet ist, kostet dasselbe wie eine, die durchläuft.
Zweitens: die Auslastung
Das ist der eigentliche Hebel. Eine Karte kann eine begrenzte Zahl gleichzeitiger Anfragen bedienen. Je mehr davon parallel laufen, desto besser die Auslastung – und desto langsamer die einzelne Antwort.
Jeder Anbieter eines geteilten Zugangs löst denselben Zielkonflikt:
- Schnelle Antworten
- Zufriedene Nutzer
- Schlechte Auslastung, hoher Preis je Nutzer
- Gute Auslastung, niedriger Preis
- Spürbare Wartezeiten zu Stoßzeiten
- Nutzer, die von „langsam“ sprechen
Es gibt keine dritte Möglichkeit. Wer einen sehr niedrigen Preis für ein sehr großes Modell sieht, sollte davon ausgehen, dass an einer dieser Stellen gedreht wurde – oder dass stark quantisiert wird.
Drittens: der Strom
Eine ausgelastete Beschleunigerkarte zieht mehrere hundert Watt, dazu kommt die Kühlung. Bei deutschen Gewerbestrompreisen ist das ein spürbarer, aber nicht der bestimmende Posten – solange die Karte ausgelastet ist. Bei geringer Auslastung dominiert die Abschreibung so deutlich, dass der Strom in der Rechnung fast verschwindet.
Das ist der Grund, warum „aber Strom ist in Deutschland teuer“ als Argument gegen deutsche KI-Rechenzentren weniger trägt, als es klingt. Der teurere Faktor ist die Auslastung, und die hängt an der Zahl der Kunden, nicht am Standort.
Was daraus für die Preisgestaltung folgt
Vier Konsequenzen, die man an fast jeder Preisliste ablesen kann:
- Kleine Modelle sind im günstigsten Tarif. Nicht als Sparversion, sondern weil mehrere Anfragen gleichzeitig auf eine Karte passen.
- Reasoning-Modelle sind teuer. Sie erzeugen vor der Antwort eine Gedankenkette, die Rechenzeit kostet und die meist niemand liest.
- Lange Kontexte kosten überproportional. Der Zwischenspeicher wächst mit der Länge und nimmt Platz weg, den sonst eine weitere Anfrage hätte.
- Mixture-of-Experts-Modelle sind billiger im Rechnen und teuer im Halten. Nur ein Teil der Parameter arbeitet, aber alle müssen geladen sein.
Der ehrliche Vergleich mit den Großen
Ein kleines deutsches Rechenzentrum kann bei den Stückkosten nicht mit einem Hyperscaler mithalten. Größenvorteile beim Einkauf, bei der Auslastung und beim Strom sind real, und wer etwas anderes behauptet, rechnet falsch.
Was ein kleiner Anbieter bieten kann, ist etwas anderes: eine kurze Verarbeitungskette, einen erreichbaren Gerichtsstand, benannte Unterauftragsverarbeiter und die Möglichkeit, eine Maschine exklusiv zu vermieten, ohne dass eine Konzernstruktur dazwischensteht.
Das ist kein Preisargument. Es als eines zu verkaufen, wäre der erste Bruch mit dem, wofür der Dienst antritt.