Es gibt eine Klasse von Aufgaben, bei denen ein großes Modell messbar besser ist. Sie ist kleiner, als die Auswahlgespräche vermuten lassen.
Was große Modelle wirklich besser können
Der Vorsprung liegt fast immer in einer von drei Eigenschaften:
- Weltwissen. Mehr Parameter speichern mehr Fakten. Bei Fragen, die Wissen abrufen, ist der Unterschied deutlich.
- Mehrstufiges Schließen. Aufgaben, die drei oder vier Zwischenschritte brauchen, brechen bei kleinen Modellen häufiger ab.
- Lange Konsistenz. Über zwei Seiten Text hinweg denselben Ton, dieselben Bezeichnungen und dieselbe Argumentationslinie zu halten, gelingt großen Modellen besser.
Und was sie nicht besser können
Für einen erstaunlich großen Teil der täglichen Arbeit ist der Unterschied klein bis nicht vorhanden:
Einen vorhandenen Text kürzen, glätten, in eine andere Ansprache bringen. Der Inhalt steht bereits da – es geht um Sprache, nicht um Wissen.
Aus einem Dokument Daten ziehen: Beträge, Fristen, Namen, Positionen. Ein kleines Modell mit niedriger Temperatur ist hier oft zuverlässiger, weil es weniger dazuerfindet.
Aus Notizen eine Struktur bauen, Themen clustern, eine Überschriftenhierarchie vorschlagen.
Zwischen europäischen Sprachen, insbesondere mit einem darauf ausgelegten Modell wie EuroLLM.
Der Punkt, den fast niemand einrechnet
Ein kleines Modell erfindet weniger. Das klingt gegenintuitiv – es weiß ja weniger –, ist aber die Erfahrung: Wenn ein Modell mit vierzehn Milliarden Parametern eine Fundstelle nicht kennt, sagt es das häufiger, als ein Modell mit vierhundert Milliarden, das eine plausible erfindet.
Für Aufgaben, bei denen ein erfundener Beleg teurer ist als eine fehlende Antwort – Verwaltung, Recht, Medizin, Technik –, kehrt sich der Vorteil damit um.
Nehmen Sie zwanzig echte Aufgaben aus Ihrem Alltag – nicht ausgedachte. Lassen Sie sie von einem kleinen und einem großen Modell bearbeiten und vergleichen Sie blind. In den meisten Fällen liegt der Unterschied unter dem, was den Preisunterschied rechtfertigt. In manchen ist er eindeutig, und dann wissen Sie, wofür Sie das große brauchen.
Was das im Betrieb ausmacht
Der praktische Unterschied ist nicht die Rechnung, sondern die Wartezeit. Ein Modell, das auf einer einzelnen Karte läuft und mehrere Anfragen gleichzeitig bedient, antwortet in ein bis zwei Sekunden. Ein Reasoning-Modell auf mehreren Karten braucht für dieselbe Umformulierung eine halbe Minute, weil es vorher über eine Aufgabe nachdenkt, die kein Nachdenken erfordert.
Bei zwanzig Umformulierungen am Tag ist das der Unterschied zwischen einem Werkzeug, das man benutzt, und einem, das man umgeht.
Die Empfehlung
Wählen Sie nicht das beste Modell, sondern das kleinste, das die Aufgabe noch löst – und halten Sie ein großes für die Fälle bereit, in denen es das nicht tut. Genau so ist die Tarifstruktur aufgebaut: Die Einstiegsmodelle sind klein und schnell, die großen kommen dort dazu, wo sie einen Unterschied machen.
Was das nicht heißt: dass kleine Modelle ausreichen. Sie reichen für vieles und für manches nicht, und wer den Unterschied nicht kennt, merkt ihn im falschen Moment.