Kurz-Fakten

  • Übliche Endpunkte: Chat-Vervollständigung, Einbettungen, Modellliste; Anmeldung über ein Bearer-Token
  • Fortlaufende Ausgabe erfolgt in der Regel über Server-Sent Events
  • Kein Standardisierungsgremium: Der Umfang wird vom Vorbild bestimmt und kann sich ändern
  • Abweichungen betreffen vor allem Funktionsaufrufe, strukturierte Ausgabe, Ratenbegrenzung und Fehlercodes
  • Der praktische Nutzen liegt im Wechsel des Anbieters ohne Umbau der Anwendung

Bedeutung in der Praxis

Die Kompatibilität ist das wirksamste Mittel gegen Abhängigkeit von einem einzelnen Anbieter – und sie wird trotzdem regelmäßig überschätzt. „Nur die Basisadresse tauschen“ stimmt für die erste Anfrage und selten für die ganze Anwendung. Tatsächlich zu ändern sind meist: die Modellnamen, die angenommene Kontextlänge, die Abrechnungslogik, die Behandlung von Funktionsaufrufen und die Zeitüberschreitungen, weil ein anderes Modell anders schnell antwortet.

Realistisch ist ein Umstieg damit kein Einzeiler, aber auch kein Projekt – eher ein Tag Arbeit für eine mittelgroße Anwendung. Wer das vorher einmal durchspielt, statt es im Ernstfall zu entdecken, hat die Abhängigkeit tatsächlich verringert und nicht nur behauptet.

Verwandte Begriffe