Mixtral 8x22B
Mistral AI · Frankreich
Über das Modell
Das große Mixture-of-Experts-Modell von Mistral: rund 141 Milliarden Parameter insgesamt, davon etwa 39 Milliarden pro Token aktiv. Es beherrscht Funktionsaufrufe, also die strukturierte Übergabe an ein anderes Programm – die Voraussetzung dafür, ein Sprachmodell in einen bestehenden Arbeitsablauf einzubinden, statt es nur Text erzeugen zu lassen.
Apache 2.0, europäischer Hersteller, große Kapazität: die Kombination, die für Unternehmen mit Anspruch an Lizenzklarheit interessant ist.
Der Preis dafür ist Hardware. Ein Modell dieser Größe belegt eine Maschine, die sich in einem geteilten Betrieb nicht rechnet. Es ist deshalb für Dedicated-Server und die zweite Ausbaustufe des Behördentarifs vorgesehen.
Stärken
Kurz gesagt
Großes europäisches Modell unter Apache 2.0, mit Funktionsaufrufen