Zum Inhalt springen
// Meta 8 Min. Lesezeit

Meta veröffentlicht Muse Spark Open mit 816 Milliarden Parametern

Mindverse News

KI-gestützt erstellt 2 Quellen Originalmeldung: huggingface.co Arbeitsweise

KI-generierte Illustration: Meta veröffentlicht Muse Spark Open mit 816 Milliarden Parametern
KI-generierte Illustration

Das Wichtigste in Kürze

  • Muse Spark Open verarbeitet Text, Bilder, Audio und Video, erzeugt aber Text; das Modell umfasst laut Veröffentlichungsbeitrag rund 816 Milliarden Parameter, davon etwa 42 Milliarden aktiv pro Token. [1]
  • Die Mischung aus Experten senkt den Rechenaufwand pro Token, nicht jedoch automatisch den Speicherbedarf: Für die BF16-Checkpoint-Dateien nennt der Beitrag rund 1,5 Terabyte. [1]
  • Das Modell bietet ein Kontextfenster von bis zu einer Million Tokens. Der Beitrag beziffert den KV-Cache für diese Länge in BF16 auf rund 266 Gigabyte. [1]
  • Die veröffentlichte Integrationslage unterscheidet sich je nach Inferenz-Framework: Transformers und SGLang unterstützen laut Beitrag mehrere Modalitäten, die vLLM-Referenzintegration zunächst Text- und Bildeingaben. [1]
  • Meta hatte beim Vorgängermodell Muse Spark noch Lücken bei Coding-Workflows und lang andauernden Agentenaufgaben eingeräumt; unabhängige Vergleichsdaten zur Leistungsfähigkeit der offenen Variante enthält der Release-Beitrag nicht. [1] [2]
// Inhalt · 8 Abschnitte
  1. Open Weights statt bloßer API-Ankündigung
  2. MoE-Architektur: weniger aktive Parameter, großer Gesamtspeicher
  3. Multimodalität mit Text als gemeinsamer Ausgabe
  4. Millionen-Kontext: nützlich, aber speicherintensiv
  5. Betrieb: erhebliche Hardwareanforderungen und mehrere Laufzeitpfade
  6. Agentische Coding-Aufgaben und Werkzeugaufrufe
  7. Reasoning lässt sich abstufen, aber nicht abschalten
  8. Leistungsanspruch und offene Fragen für die Evaluation
  9. Quellen

Open Weights statt bloßer API-Ankündigung

Meta hat Muse Spark Open als Modell mit offenen Gewichten veröffentlicht. Der am 15. Oktober 2026 erschienene Beitrag stellt Checkpoints in BF16 und NVFP4 sowie Anleitungen für Inferenz und Feinabstimmung vor. Damit richtet sich die Veröffentlichung nicht nur an Nutzer einer gehosteten Schnittstelle, sondern auch an Teams, die das Modell in eigener Infrastruktur betreiben oder anpassen möchten. [1]

Die Bezeichnung „Open Weight“ sollte dabei eng ausgelegt werden. Der Beitrag nennt Modellgewichte und technische Integrationen, enthält aber in dem vorliegenden Text keine Angaben zu einer Lizenz, zu offenen Trainingsdaten oder zur Veröffentlichung des vollständigen Trainingsprozesses. Aus der Bereitstellung von Gewichten allein lässt sich daher weder eine uneingeschränkte kommerzielle Nutzung noch die Einordnung als Open-Source-Software ableiten. Unternehmen sollten Lizenz- und Nutzungsbedingungen vor einer produktiven Verwendung gesondert prüfen. [1]

Die Veröffentlichung steht in einer Modellfamilie, die Meta zuvor mit Muse Spark eingeführt hatte. In der Ankündigung vom April beschrieb Meta das damalige Modell als multimodales Reasoning-Modell und erklärte zugleich, dass es bei Coding und länger laufenden agentischen Aufgaben noch Leistungsabstände gebe. Muse Spark Open wird nun ausdrücklich auf Coding und Entwickler-Workflows ausgerichtet. Ein belastbarer Leistungsvergleich zwischen den Versionen ist in den vorliegenden Beiträgen jedoch nicht enthalten. [1] [2]

  • Checkpoints: Muse-Spark-Open-816B-A42B und eine NVFP4-Variante. [1]
  • Eingaben: Text, Bilder, Audio und Video; Ausgabe: Text. [1]
  • Der Veröffentlichungsbeitrag bezeichnet das Modell als bislang leistungsfähigstes US-amerikanisches Open-Weight-Modell. Das ist eine Anbieter- beziehungsweise Beitragsaussage, keine im Text unabhängig belegte Rangliste. [1]

MoE-Architektur: weniger aktive Parameter, großer Gesamtspeicher

Muse Spark Open setzt auf eine Mixture-of-Experts-Architektur (MoE). Nach Angaben des Beitrags besteht das Sprachmodell aus 62 Schichten. In jeder MoE-Schicht stehen 256 spezialisierte Experten bereit; der Router wählt für jedes Token acht davon aus. Insgesamt umfasst das Modell ungefähr 816 Milliarden Parameter, während pro Token rund 42 Milliarden aktiv genutzt werden. Die Experten enthalten laut Beitrag etwa 97 Prozent der Gesamtparameter. [1]

Der praktische Unterschied liegt in der Trennung von Rechenaufwand und Speicherbedarf. Weil nur ein Teil der Experten pro Token ausgeführt wird, muss nicht die gesamte Modellkapazität für jede einzelne Berechnung genutzt werden. Gleichzeitig müssen die Gewichte der verfügbaren Experten für die Auswahl bereitstehen. Der Blog beschreibt deshalb eine Rechengeschwindigkeit, die eher einem Modell mit 42 Milliarden aktiven Parametern entspricht, bei einem Speicherbedarf, der sich an der Gesamtgröße orientiert. Das ist eine Architekturangabe des Beitrags und keine Garantie für eine bestimmte Latenz in beliebigen Unternehmensumgebungen. [1]

Für die BF16-Version beziffert der Beitrag die Checkpoint-Dateien im Safetensors-Format auf etwa 1,5 Terabyte. Die NVFP4-Ausgabe speichert Parameter mit vier Bit und wird dort als für NVIDIA-Blackwell-GPUs vorgesehen beschrieben. Hugging Face charakterisiert den Genauigkeitsverlust als vernachlässigbar; der bereitgestellte Text liefert dazu jedoch keine unabhängige Messreihe oder konkrete Abweichungswerte. [1]

Auch das übrige Modell ist umfangreich spezifiziert: Der Sprachmodellteil hat eine verborgene Dimension von 8192 und gruppierte Abfrage-Aufmerksamkeit mit 128 Query- und 16 Key-Value-Köpfen je Schicht. Eine solche Konfiguration beeinflusst unter anderem, wie viele Zwischenergebnisse für die Aufmerksamkeit gespeichert werden müssen. Der Beitrag nennt sie als Teil des Designs, aber nicht als unabhängigen Nachweis für eine bestimmte Qualitäts- oder Effizienzsteigerung. [1]

Multimodalität mit Text als gemeinsamer Ausgabe

Das Modell nimmt Text, Bilder, Audio und Video entgegen und erzeugt nach der Modellübersicht Text. Ein gemeinsamer Eingabepfad kann beispielsweise Code mit Screenshots, gesprochenen Hinweisen oder einer Bildschirmaufnahme verbinden. Der Veröffentlichungsbeitrag beschreibt diese Kombination als Grundlage für Entwicklungsaufgaben, bei denen ein Agent einen Codebestand bearbeitet und zugleich visuelle oder akustische Informationen auswertet. Das belegt die vorgesehene Nutzung, nicht automatisch eine bestimmte Zuverlässigkeit bei realen Projekten. [1]

Bilder und Videoframes laufen über einen Wahrnehmungsencoder, der Bildinhalte in Tokens für das Sprachmodell überführt. Für Audio ist ein eigener Encoder vorgesehen. Laut Beitrag erzeugt dieser 12,5 Audiotokens pro Sekunde; ein zehnsekündiger Audioclip entspricht damit rechnerisch 125 Tokens. Der Prozessor erwartet für direkt übergebene Audiodaten Mono-Audio mit 24 kHz und kann Audio aus Videos gemeinsam mit den Videoframes verarbeiten. [1]

Für Video setzt die beschriebene Standardverarbeitung auf zwei Bilder pro Sekunde und begrenzt die Zahl der Frames auf 96. Teams können die Bildrate anpassen: Eine höhere Abtastrate kann mehr zeitliche Details erhalten, erhöht laut Beitrag aber Speicherbedarf und Vorverarbeitungs-Latenz. Für Anwendungsfälle wie die Erkennung kurzer Ereignisse in Aufzeichnungen ist dieser Parameter daher eine operative Abwägung und keine rein kosmetische Einstellung. [1]

Millionen-Kontext: nützlich, aber speicherintensiv

Muse Spark Open unterstützt laut Beitrag ein Kontextfenster von bis zu einer Million Tokens. Darin können Text- und Multimodal-Tokens gemeinsam verarbeitet werden. Die Obergrenze erweitert die Möglichkeit, längere Codebasen, Dokumente oder Gesprächsverläufe in einer Anfrage zu berücksichtigen. Sie sagt für sich genommen aber nicht aus, wie schnell, kostengünstig oder zuverlässig ein konkreter Prozess über die gesamte Länge läuft. [1]

Ein wesentlicher technischer Kostenpunkt ist der Key-Value-Cache (KV-Cache), in dem Aufmerksamkeitsinformationen während der Verarbeitung vorgehalten werden. Der Beitrag rechnet in BF16 mit rund 250 Kilobyte zusätzlichem Cache pro Token und etwa 266 Gigabyte bei voller Million-Tokens-Länge. Das ist eine Größenordnung, die bei der Infrastrukturplanung neben den Modellgewichten berücksichtigt werden muss; die veröffentlichten Zahlen sind keine vollständige Kapazitätsplanung für einen produktiven Dienst. [1]

Als Maßnahme zur Begrenzung des Cache-Bedarfs nennt der Beitrag gruppierte Query-Aufmerksamkeit mit 16 Key-Value-Köpfen. Für Unternehmen bedeutet das analytisch: Ein sehr großer Kontext kann Arbeitsschritte über viele Dateien oder Eingaben erleichtern, ersetzt aber keine Tests mit realistischen Kontextlängen und gleichzeitigen Anfragen. Die mögliche Reduktion wiederholter Kontextübergaben ist gegen Speicherbelegung und Antwortzeit abzuwägen. [1]

Betrieb: erhebliche Hardwareanforderungen und mehrere Laufzeitpfade

Der Beitrag beschreibt für die BF16-Ausführung mit Transformers einen verteilten Betrieb über vier Knoten mit jeweils acht H200-GPUs und Tensor-Parallelität über 32 Geräte. Für die NVFP4-Ausführung nennt er in diesem Zusammenhang einen einzelnen B200-Knoten. Daneben führt die SGLang-Referenzkonfiguration NVFP4-Betrieb auf vier GB300-GPUs an. Das sind veröffentlichte Konfigurationen für konkrete Integrationen, keine allgemeingültige Mindestanforderung oder ein vollständiger Leistungsvergleich der Frameworks. [1]

Die dokumentierten Integrationen decken unterschiedliche Funktionsumfänge ab. Transformers stellt laut Beitrag eine multimodale Schnittstelle für Textgenerierung aus verschiedenen Eingaben bereit. Die SGLang-Integration wird für Text, Bild, Audio und Video beschrieben. Die vLLM-Referenzintegration unterstützt demnach NVFP4 sowie Text- und Bildeingaben und setzt Blackwell-GPUs voraus. Wer Video- oder Audioverarbeitung benötigt, sollte daher nicht nur den Checkpoint, sondern auch den konkreten Laufzeitpfad und dessen dokumentierte Modalitätsunterstützung prüfen. [1]

Für llama.cpp beschreibt der Beitrag quantisierte Fassungen und nennt Tests auf einem Mac M3 Ultra mit 512 Gigabyte Arbeitsspeicher. Eine kalibrierte 2-Bit-Quantisierung habe dort 18 Tokens pro Sekunde erreicht und rund 304 Gigabyte für das Modell belegt. Diese Werte stammen aus dem Veröffentlichungsbeitrag; sie sind nicht als unabhängig reproduzierte Benchmarkdaten ausgewiesen und erlauben keine direkte Hochrechnung auf andere Geräte, Eingabelängen oder Lastprofile. [1]

Für die betriebliche Entscheidung ergeben sich damit zwei getrennte Fragen: Welcher Qualitäts- und Quantisierungsstand ist für die Anwendung ausreichend, und welche Hardware kann die vollständigen Gewichte samt Kontext- und Laufzeitbedarf tragen? Die aktive Parameterzahl allein beantwortet die zweite Frage nicht, weil die Expertengewichte und der KV-Cache zusätzlich im Speicher berücksichtigt werden müssen. [1]

Agentische Coding-Aufgaben und Werkzeugaufrufe

Meta beschreibt Muse Spark Open als auf reale Entwicklerabläufe trainiert, darunter Änderungen über mehrere Dateien und längere Debugging-Sitzungen. Das Modell soll Aufgaben schrittweise planen, Werkzeuge aufrufen, Ergebnisse beobachten und bei Bedarf nachsteuern. Die Anleitung zeigt außerdem, wie Entwickler Funktionswerkzeuge angeben und Modellantworten als Werkzeugaufrufe verarbeiten können. Diese Angaben erläutern das Design und die Schnittstelle, liefern aber keine Messwerte für erfolgreiche autonome Softwareänderungen. [1]

Die Vorgängerankündigung ordnet diese Ausrichtung ein: Meta hatte für das im April vorgestellte Muse Spark noch Leistungsabstände bei Coding und lang laufenden agentischen Systemen genannt. Der neue Release setzt inhaltlich genau bei solchen Arbeitsformen an. Ohne unabhängige Benchmarks oder dokumentierte Ergebnisse aus produktiven Einsätzen bleibt offen, wie stark Muse Spark Open diese früher benannten Lücken tatsächlich schließt. [1] [2]

Für Unternehmen ist außerdem relevant, dass Werkzeugaufrufe nicht gleichbedeutend mit sicherer Ausführung sind. Das Modell kann strukturierte Aufrufe erzeugen; die Anwendung muss jedoch weiterhin Berechtigungen, Eingaben, Fehlerbehandlung und Freigaben kontrollieren. Diese Einordnung folgt aus der im Beitrag beschriebenen Tool-Calling-Schnittstelle: Ein Modellaufruf wird erst durch die umgebende Software in eine Aktion übersetzt. [1]

Reasoning lässt sich abstufen, aber nicht abschalten

Die Anleitung sieht vier symbolische Stufen für den Reasoning-Aufwand vor: niedrig, mittel, hoch und sehr hoch. Sie werden laut Beitrag auf interne Werte von 16, 64, 256 beziehungsweise 512 abgebildet. Ein vollständiges Abschalten des Reasonings ist demnach nicht möglich; für einfachere Aufgaben empfiehlt der Beitrag die niedrige Stufe, um weniger Tokens zu verbrauchen. [1]

Das hat Folgen für Kosten- und Latenzmodelle: Teams können den Aufwand an die erwartete Schwierigkeit anpassen, aber nicht auf einen vollständig reasoningfreien Betriebsmodus wechseln. Die tatsächliche Tokenzahl hängt weiterhin von Aufgabe und Ausgabe ab. Ein sinnvoller Einsatz erfordert daher Messungen mit repräsentativen Prompts und eine Prüfung, ob eine höhere Stufe bei den eigenen Aufgaben einen ausreichenden Qualitätsgewinn erzielt. Der Quelltext nennt keine allgemeingültigen Kostensätze oder Leistungswerte für diese Abstufungen. [1]

Leistungsanspruch und offene Fragen für die Evaluation

Der Hugging-Face-Beitrag ordnet Muse Spark Open als besonders leistungsfähiges offenes Gewichtsmodell ein. Zugleich enthält der vorliegende Text keine systematische Benchmarktabelle, keine unabhängigen Ergebnisse und keinen Vergleich, der die Spitzenposition überprüfbar belegt. Die Aussage sollte deshalb als Charakterisierung des Veröffentlichungsbeitrags gelesen werden, nicht als unabhängig bestätigter Leistungsbefund. [1]

Meta hatte für das ursprüngliche Muse Spark im April Benchmarkwerte zu ausgewählten Aufgaben veröffentlicht und dabei eine eigene Methodik angekündigt. Diese Ergebnisse beziehen sich auf das damals vorgestellte Modell und sind kein Ersatz für eine Evaluation von Muse Spark Open. Ebenso wenig belegen sie, wie sich die neue Variante bei Coding, Multimodalität oder Werkzeugnutzung gegenüber anderen aktuell verfügbaren Modellen schlägt. [2] [1]

Für eine B2B-Einführung sollten deshalb unternehmenseigene Tests im Mittelpunkt stehen: relevante Codebasen und Dokumente, tatsächlich genutzte Modalitäten, zulässige Fehlerraten, Kontextgrößen sowie Verhalten bei Werkzeugaufrufen. Das ist eine aus den veröffentlichten Eigenschaften abgeleitete Evaluationspriorität, kein berichtetes Testergebnis. Die technische Offenheit der Gewichte erweitert die Optionen für eigene Bereitstellung und Anpassung; sie nimmt Unternehmen weder die Prüfung von Lizenzbedingungen noch die Verantwortung für sichere Integration und laufende Qualitätskontrolle ab. [1]

Quellen

  1. [1] Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta — https://huggingface.co/blog/meta-muse-spark-open (abgerufen am 2026-10-15)
  2. [2] Introducing Muse Spark: Scaling Towards Personal Superintelligence — https://ai.meta.com/blog/introducing-muse-spark-msl (abgerufen am 2026-10-15)

//Nächster Artikel

Meta

Meta veröffentlicht Muse Spark Open mit Modellgewichten und API-Zugängen

Meta veröffentlicht Muse Spark Open als Download und über APIs. Modellgröße, Laufzeitoptionen und eingeschränkte Lizenzbedingungen erfordern eine genaue Prüfung.

// Artikel teilen

Bei Google bevorzugen

Mehr zu Meta & Llama

Alle Meta-News

// Dranbleiben

Mindverse News folgen

Neue Meldungen erhalten Sie über unseren RSS-Feed oder auf LinkedIn.

Recherchieren Sie KI-News wie diese selbst — mit Mindverse Studio.

7 Tage kostenlos testen — ohne Kreditkarte, mit 200 Credits. Für Fragen zur Umsetzung buchen Sie eine persönliche Demo.