Über das Modell

Llama 4 Scout ist ein Mixture-of-Experts-Modell: Von den insgesamt rund 109 Milliarden Parametern ist pro Token nur ein Bruchteil aktiv. Das macht es im Betrieb erheblich günstiger als ein dichtes Modell vergleichbarer Qualität. Es versteht neben Text auch Bilder und arbeitet mit einem sehr großen Kontextfenster – nützlich, wenn eine ganze Website, ein Vertragswerk oder ein längerer Verlauf am Stück eingelesen werden soll.

Wichtig für die rechtliche Einordnung: Die Gewichte sind frei herunterladbar, aber die Llama-Lizenz ist keine Open-Source-Lizenz im Sinne der Open Source Initiative. Sie enthält Nutzungsbeschränkungen und eine Namensnennungspflicht. Für den Betrieb in unserem Rechenzentrum ist das unproblematisch, für eine Behörde, die auf freie Lizenzen besteht, kann es ein Ausschlusskriterium sein. Deshalb steht es hier und nicht unter „Behörden“.

Zur Kontextlänge: Die vom Hersteller genannte Obergrenze erreichen wir nicht. Ein sehr langer Kontext braucht sehr viel Grafikspeicher. Welche Länge wir tatsächlich anbieten, steht bei Start im Datenblatt – und es wird eine Zahl sein, keine Größenordnung.

Stärken

Mixture-of-Experts sehr langes Kontextfenster Bildverstehen breites Weltwissen

Kurz gesagt

Langer Kontext und Bildverstehen, aber keine echte Open-Source-Lizenz