Kurz-Fakten

  • Arbeitet auf Wortstücken (Token), nicht auf Wörtern oder Buchstaben
  • Die Größe wird in Parametern angegeben, üblich sind Milliarden bis hunderte Milliarden
  • Es lernt beim Antworten nichts dazu – neues Wissen entsteht nur durch erneutes Training
  • Die Antwort ist nicht deterministisch, solange die Temperatur über null liegt

Bedeutung in der Praxis

Die wichtigste praktische Folgerung aus der Funktionsweise: Ein Sprachmodell erzeugt Text, der aussieht wie eine Antwort. Ob er eine ist, entscheidet sich außerhalb des Modells.

Für den Einsatz in Verwaltung und Beratung heißt das, dass die Prüfung nicht wegfällt, sondern sich verschiebt – vom Schreiben zum Gegenlesen. Wer das einkalkuliert, gewinnt Zeit. Wer es überspringt, weil der Text so überzeugend klingt, verliert am Ende mehr, als er gespart hat.

Verwandte Begriffe