Kurz-Fakten
- Trainiert werden zwei kleine Matrizen je Schicht statt sämtlicher Modellgewichte
- Der Adapter ist um Größenordnungen kleiner als das Grundmodell und getrennt speicherbar
- Mehrere Adapter lassen sich auf demselben Grundmodell halten und je Anfrage auswählen
- Geeignet für Stil, Format und Aufgabenzuschnitt; für aktuelles Fachwissen ist RAG das passendere Mittel
- Die Trainingsdaten eines Adapters unterliegen denselben datenschutzrechtlichen Anforderungen wie jedes andere Training
Bedeutung in der Praxis
Der häufigste Satz in Projektgesprächen lautet: „Wir trainieren das Modell auf unsere Dokumente.“ Gemeint ist fast immer, dass Antworten auf dem eigenen Bestand beruhen sollen – und dafür ist ein Adapter das falsche Werkzeug. Was ein Modell so lernt, ist Sprache und Form, nicht ein zuverlässig abrufbarer Sachverhalt. Wer Belegstellen braucht, braucht Retrieval.
Wofür sich der Weg lohnt: eine feste Ausgabeform, eine Fachsprache, ein bestimmter Ton, eine Aufgabe mit engem Zuschnitt. Dazu kommt ein betrieblicher Vorteil, der oft den Ausschlag gibt: Ein Adapter lässt sich ablegen, austauschen und im Zweifel zurücknehmen, ohne dass das Grundmodell angefasst wird.