Baidu hat am 5. November die Gewichte von ERNIE 5.5 Flash Base veröffentlicht. Hinter dem Namen steckt ein Textmodell mit 280 Milliarden Parametern, von denen pro Token 14 Milliarden aktiv sind. Die Dateien sind öffentlich gelistet. Ihre Lizenz schließt die EU einschließlich Deutschland und Österreich jedoch ausdrücklich aus. Das gilt auch für nichtkommerzielle Nutzung.

Welche Versionen stehen bereit?

Baidu listet in seiner Modellkarte eine FP8- und eine BF16-Fassung. Beide sind derselbe veröffentlichte Modellstand in verschiedener numerischer Genauigkeit. Das FP8-Dateiverzeichnis weist insgesamt 288 GB aus. Für den laufenden Betrieb kommen Speicherbedarf für Laufzeit und Kontext hinzu. Die 14 Milliarden aktiven Parameter beschreiben die Rechenarbeit pro Token. Sie bedeuten nicht, dass nur ein 14-Milliarden-Modell geladen werden muss.

Baidu nennt bis zu 1.048.576 Token Kontext für Inferenz und Fine-Tuning. Das Vortraining reichte laut Hersteller bis 131.072 Token. Wer die maximale Kontextlänge im Betrieb benötigt, muss zusätzlich zu den Gewichten Platz für den Zwischenspeicher einplanen. Die Modellkarte beschreibt eine Architektur, die diesen Speicherbedarf teilweise reduziert, und nennt unterstützte Bereitstellungswege wie vLLM und SGLang. Daraus folgt keine Mindestgröße für eine einzelne GPU.

Wofür ist das Basismodell gedacht?

Die technische Veröffentlichung beschreibt einen Modellstand nach dem Vortraining, vor weiteren Trainingsschritten für Anweisungen oder Dialoge. Er eignet sich als Ausgangspunkt für eigene Forschung oder Anpassung, soweit die Lizenz die Nutzung erlaubt. Eine ansprechende Chatoberfläche ersetzt dieses fehlende Training nicht. Ein veröffentlichter Basismodell-Checkpoint belegt auch keinen öffentlichen Chatdienst mit genau diesen Gewichten.

ERNIE 5.5 Flash Base hat im KI-Weekly-Ranking noch keinen eigenen Eintrag. Die Top 3 des KI-Weekly-Gesamtrankings zeigen zur Orientierung das allgemeine Modellfeld. Die Grafik sagt nichts über die Baidu-Lizenz oder über einen Rang für ERNIE aus.

Top 3 des KI-Weekly-Gesamtrankings, ohne ERNIE 5.5 Flash Base

Für Projekte mit mehreren Standorten ist die wichtigste Frage oft zuerst, wo Gewichte und Ergebnisse genutzt werden dürfen. Der Artikel zur ERNIE-Lizenz trennt den Gebietsausschluss von den Regeln für kommerzielle Nutzung.

Weitere Modellreleases und ihren praktischen Nutzen ordnet der KI Weekly Newsletter ein.