In eigener Sache

Wir vermieten beides: geteilte Zugänge und exklusive Maschinen. An der Antwort „kaufen Sie selbst“ verdienen wir nichts, an der Antwort „mieten Sie bei uns“ schon. Wer das weiß, kann den Rest entsprechend lesen.

Die Frage wird als Preisfrage gestellt und ist eine Auslastungsfrage. Eine Beschleunigerkarte kostet dasselbe, ob sie rechnet oder wartet – und deshalb entscheidet nicht ihr Preis, sondern wie viele Stunden im Monat sie arbeitet.

Die Rechnung, die tatsächlich zu führen ist

Beide Seiten lassen sich auf denselben Nenner bringen: Kosten je gelieferter Arbeit – je Anfrage, je tausend Token, je Stunde Rechenzeit, je nachdem, was sich in Ihrem Fall zählen lässt. Solange nur „Anschaffungspreis gegen Monatsmiete“ verglichen wird, vergleicht man zwei Zahlen, die nichts miteinander zu tun haben.

Der Kern der SacheMonatliche Vollkosten geteilt durch monatliche Arbeit

Auf der Kaufseite stehen im Zähler nicht nur Abschreibung und Strom, sondern Stellplatz, Kühlung, Netz, Ersatzteile und Arbeitszeit. Im Nenner steht die tatsächlich abgerufene Arbeit. Der Bruch fällt mit steigender Auslastung – und nur dieser Bruch ist mit einem Mietpreis vergleichbar.

Was auf der Kaufseite im Zähler steht

Die Reihenfolge folgt der Bedeutung, nicht der Reihenfolge in der Rechnung. Die einzelnen Posten sind im Lexikon unter TCO aufgeführt, hier die, die in Kalkulationen fehlen:

  • Abschreibung über eine ehrliche Nutzungsdauer. Üblich sind drei Jahre. Wer fünf ansetzt, sollte begründen können, dass die Karte im fünften Jahr noch das Modell trägt, das er dann braucht – Modelle wachsen schneller als Karten altern.
  • Arbeitszeit. Einrichtung, Aktualisierungen, Treiber, Modellwechsel, Störungen. Das ist kein Rundungsposten. In kleinen Häusern ist es der zweitgrößte nach der Abschreibung, und er fehlt in fast jeder Aufstellung, weil ihn niemand in Rechnung stellt.
  • Leerlauf. Eine geladene Karte belegt Speicher, auch wenn niemand fragt. Wer sie zwischen den Anfragen entlädt, spart Strom und zahlt mit Wartezeit beim nächsten Zugriff – die Modellgewichte müssen erneut in den Speicher.
  • Der zweite Rechner. Fällt die Karte aus, steht der Dienst. Wer eine Wiederanlaufzeit zusagen will, braucht Ersatz – und der kostet, ob er läuft oder nicht.

Die Auslastung, die tatsächlich zustande kommt

Hier liegt der Rechenfehler, der die meisten Kaufentscheidungen trägt. Kalkuliert wird gern mit einer durchgehend arbeitenden Karte, benutzt wird sie zu Bürozeiten.

Die Arithmetik dazu ist unbestechlich: Eine Woche hat 168 Stunden. Eine Arbeitswoche von 40 Stunden sind davon nicht ganz ein Viertel – und innerhalb dieser 40 Stunden tippt niemand ununterbrochen. Wer eine Karte für den interaktiven Gebrauch einer Abteilung kauft, kalkuliert deshalb realistisch mit einem Bruchteil dessen, was das Datenblatt hergibt.

Warum ein geteilter Zugang je Antwort günstiger ist

Nicht wegen besserer Einkaufspreise, sondern weil dieselbe Karte mehrere Anfragen gleichzeitig bearbeitet und die Leerlaufzeiten verschiedener Nutzer einander überlappen. Das nennt sich Batching und ist der ganze wirtschaftliche Unterschied.

Wer selbst kauft, kauft die Leerlaufzeit mit. Das kann trotzdem richtig sein – nur sollte es eine Entscheidung sein und kein Versehen in der Tabelle.

Was für den Kauf spricht

  • Gleichmäßig hohe Last. Eine Karte, die nachts Stapel abarbeitet und tagsüber Anfragen beantwortet, kommt auf eine Auslastung, bei der der Bruch kippt. Das ist der Fall, in dem Kaufen rechnet.
  • Keine Kosten je Anfrage. Wer sehr viel verarbeitet und die Menge schwer vorhersagt, tauscht eine variable gegen eine feste Größe. Für die Planung ist das oft mehr wert als der Preisunterschied.
  • Anforderungen, die keine Zahl sind. Ein abgeschottetes Netz, eine Vorgabe aus einem Regelwerk, ein Prüfvermerk, der eine eigene Anlage verlangt – siehe Air-Gapped. Dann steht die Rechnung nicht am Anfang.
  • Eigene feinabgestimmte Modelle und Betriebsarten, die kein geteilter Zugang abbildet.

Was für die Miete spricht

  • Ungleichmäßige oder unbekannte Last. Wer noch nicht weiß, was gebraucht wird, kauft mit einer Karte eine Antwort auf eine Frage, die er noch nicht gestellt hat.
  • Kein gebundenes Kapital und keine Ersatzteilfrage. Ausfall, Nachbeschaffung und Wiederanlauf liegen beim Anbieter – vorausgesetzt, das steht so im Vertrag; siehe SLA.
  • Modellwechsel ohne Neuanschaffung. Wenn in einem halben Jahr ein deutlich besseres Modell erscheint, das mehr Speicher braucht, ist das beim Mieten eine Umstellung und beim Kaufen eine Investition.
  • Der Probelauf. Drei Monate Miete kosten einen Bruchteil einer Karte und liefern die Zahl, die der Kaufentscheidung bisher fehlt.

Der Mischbetrieb, und seine unbequeme Seite

Die naheliegende Antwort lautet oft: Grundlast auf eigener Hardware, Spitzen zugemietet. Das funktioniert, hat aber einen Preis, der selten mitgerechnet wird – zwei Umgebungen sind mehr als anderthalb Aufwand. Zwei Modellstände, zwei Konfigurationen, zwei Protokollierungen, und für den Datenschutz zwei Verarbeitungen, die beide in das Verzeichnis gehören.

Sinnvoll wird der Mischbetrieb dort, wo die beiden Lasten ohnehin verschieden sind: Massenläufe mit Wartezeit auf der eigenen Karte, interaktive Nutzung mit Anspruch auf schnelle Antwort im geteilten Zugang. Wer beides auf beiden Wegen fahren will, betreibt zwei Anlagen.

Die fünf Zahlen, die vor der Entscheidung feststehen müssen

  1. Das größte Modell, das laufen soll Es bestimmt den nötigen Grafikspeicher und damit die Klasse der Karte. Die Faustregel dazu steht im Beitrag Was ein KI-Server wirklich kostet.
  2. Gleichzeitige Nutzer zur Spitzenzeit Nicht die Zahl der Lizenzen, sondern die Zahl derer, die gleichzeitig auf eine Antwort warten.
  3. Arbeitsstunden je Monat, ehrlich geschätzt Und getrennt danach, was davon interaktiv ist und was als Stapel laufen kann.
  4. Interner Stundensatz für den Betrieb Ohne ihn lässt sich der größte versteckte Posten nicht beziffern.
  5. Was ein Ausfall kostet Wenn die Antwort „nichts, wir warten“ lautet, ist die Ersatzkarte gespart. Wenn nicht, gehört sie in den Zähler.

Wer diese fünf Zahlen hat, braucht für die Entscheidung keine Beratung mehr, sondern eine Tabelle. Wer sie nicht hat, trifft sie ohnehin nach Gefühl – dann ist der billigere Fehler die Miete, weil sie sich beenden lässt.

Was ein exklusiver Betrieb bei uns umfasst und wonach wir dafür fragen, steht unter Preise. Warum der Einstiegspreis im geteilten Zugang so liegt, wie er liegt, im Beitrag Warum 18 Euro und nicht neun.