←新闻详情

heise online更新于 10月25日 21:04

Meta 发布 816B 开源模型 Muse Spark Open,联手 Apple 本地运行

Meta und Apple optimieren riesiges KI-Modell für Mac Studios | heise online

AI 导读

Meta 发布开放权重模型 Muse Spark Open,采用 256 专家的 MoE 架构,每 token 激活约 42B 参数,上下文窗口 100 万 token,支持文本、图像、视频和音频输入但仅输出文本。Meta 与 Apple 合作,将约 530 GByte 的四比特量化版本放到两台互联的 Mac Studio M5 Ultra 上运行,通过 MLX 框架和 Thunderbolt 5 分配计算,8192 token 上下文下约 25 输出 token/秒。Artificial Analysis 测试显示其 Intelligence Index 得 39 分,为当前最强美国开源权重模型,但落后于 MiMo-V2.6-Pro 的 46 分和 GLM-5.3 的 45 分,且在四项 Agent 测试中排名末位。模型权重已在 Hugging Face 提供 16 位约 1.6 TByte 和四比特约 530 GByte 两个版本,API 输入每百万 token 1.25 美元、输出 4.25 美元。

推荐理由

精选AI 评分 80

Meta 开源 816B 参数 MoE 模型,并给出与 Apple 合作在 Mac Studio 上本地运行的实测数据,可对照其与中美开源模型的性能差距。

主题

标签

正文

Meta hat ein neues KI-Modell mit offenen Gewichten veröffentlicht. Der Konzern bezeichnet Muse Spark Open als das bisher leistungsfähigste Open-Weight-Modell aus den USA. Es erscheint gut zwei Monate nach Muse Glimmer und ist mit 816 Milliarden Parametern erheblich größer und laut unabhängigen Tests deutlich leistungsfähiger, stellt allerdings auch deutlich höhere Anforderungen an die Hardware.

Weiterlesen nach der Anzeige

Laut Modellkarte nutzt Muse Spark Open eine Mixture-of-Experts-Architektur mit 256 Experten, von denen pro Token acht aktiviert werden. Damit sind pro Token rund 42 Milliarden Parameter aktiv. Das Kontextfenster umfasst eine Million Token. Das Modell verarbeitet Text, Bilder, Videos und Audio, gibt aber ausschließlich Text aus. Meta bewirbt es in der Ankündigung für Programmieraufgaben, mehrstufiges Schlussfolgern und KI-Agenten, die Werkzeuge nutzen, Fehler korrigieren und längere Aufgaben bearbeiten sollen.

Meta und Apple kooperieren

Für die lokale Ausführung von Muse Spark Open arbeitete Meta ausgerechnet mit Apple zusammen. Die beiden Unternehmen kooperieren bereits seit mehreren Monaten, berichtet Axios. Mark Zuckerberg bedankte sich auf X öffentlich bei Apple und dessen Chef John Ternus. Dieser wiederum gratulierte dem Meta-Team. Bemerkenswert ist die Kooperation, weil beide Konzerne jahrelang über Datenschutz und Geschäftsinteressen gestritten hatten.

Die auf rund 530 GByte verkleinerte Modellvariante lässt sich laut Apples Forschungsbericht auf zwei miteinander verbundenen Mac Studios mit M5 Ultra und jeweils 512 GByte gemeinsamem Arbeitsspeicher ausführen. Apples MLX-Framework verteilt die Berechnungen über eine Thunderbolt-5-Verbindung auf beide Geräte. Bei einer Kontextlänge von 8192 Token ermittelte Apple dabei rund 25 Ausgabetoken pro Sekunde. Die erforderlichen Mac Studios mit 512 GByte Arbeitsspeicher sollen allerdings erst Ende Oktober erhältlich sein und dürften zusammen mehrere Zehntausend Euro kosten.

Bei Agentenaufgaben hinter chinesischer Konkurrenz

Laut Tests von Artificial Analysis (AA) erreicht Muse Spark Open 39 Punkte im Intelligence Index und ist damit das aktuell leistungsfähigste US-amerikanische Open-Weight-Modell. Nvidias fast gleichzeitig veröffentlichtes Nemotron 3.5 Super VL kommt auf 26 Punkte, ist mit 120 Milliarden Parametern allerdings wesentlich kleiner. Führende chinesische Modelle liegen vorn: MiMo-V2.6-Pro erreicht 46 Punkte, das ähnlich große GLM-5.3 kommt auf 45.

Weiterlesen nach der Anzeige

Das Balkendiagramm vergleicht die Leistungsfähigkeit proprietärer und offener KI-Modelle.

(Bild: Artificial Analysis)

Bei Agentenaufgaben zeigt Muse Spark Open Schwächen: Unter den neun leistungsfähigsten Open-Weight-Modellen belegt es in der Gesamtwertung von vier Agententests den letzten Platz, bei den übrigen sechs Tests hingegen Platz vier. Der gesamte Sechs-Punkte-Rückstand auf GLM-5.3 geht laut AA auf die Agententests zurück.

Eine Stärke ist der Umgang mit Wissenslücken. Im AA-Omniscience-Benchmark erzielt Muse Spark Open mit 25 Punkten den höchsten Wert unter den Open-Weight-Modellen. Bei den nicht korrekt gelösten Fragen liegt die Halluzinationsrate bei 24 Prozent, dem niedrigsten Wert unter Open-Weight-Modellen mit mindestens 30 Indexpunkten.

Sparsamer Tokenverbrauch, hohe API-Preise

Muse Spark Open erzeugt mit durchschnittlich 40.000 Ausgabetoken pro Aufgabe im Intelligence Index weniger als jedes der acht anderen führenden Open-Weight-Modelle, schreibt Artificial Analysis auf X.

Bei den zum Start verfügbaren API-Anbietern Together AI, Fireworks und Baseten kosten eine Million Eingabetoken 1,25 US-Dollar und eine Million Ausgabetoken 4,25 Dollar. Trotz der vergleichsweise hohen Tokenpreise errechnet AA dank des geringen Verbrauchs durchschnittliche Kosten von 0,84 Dollar pro Benchmark-Aufgabe. Bei GLM-5.3 sind es 2,01 Dollar, bei DeepSeek V4.1 Flash hingegen nur 0,27 Dollar.

Vergleich der Leistungsfähigkeit und durchschnittlichen Kosten pro Benchmark-Aufgabe verschiedener KI-Modelle. Je weiter links oben ein Modell liegt, desto besser schneidet es bei Leistung und Kosten ab.

(Bild: Artificial Analysis)

Wer Muse Spark Open selbst betreiben möchte, kann die Modellgewichte bei Hugging Face herunterladen. Die Modellgewichte sind in einer 16-Bit-Version mit rund 1,6 TByte und einer teilweise auf vier Bit quantisierten Version mit rund 530 GByte verfügbar.

Die Muse Model License erlaubt grundsätzlich auch die kommerzielle Nutzung, verlangt aber den Hinweis „Built with Muse Spark Open“ und die Einhaltung einer Nutzungsrichtlinie. Unternehmen, die Muse Spark Open über APIs als Dienst anbieten, benötigen bei mehr als 20 Millionen US-Dollar Bruttoumsatz innerhalb von zwölf Monaten eine gesonderte Vereinbarung mit Meta. Dabei zählt auch der Umsatz verbundener Unternehmen.

(tobe)

来源

heise online