MarkTechPost更新日

Meta、「Muse Spark Open」を公開:1Mコンテキストに対応する816BのオープンウェイトMoE

Metaは、816Bパラメータで42Bのアクティブパラメータと1Mトークンのコンテキストを持つオープンウェイトMoEモデル「Muse Spark Open」を公開しました。同モデルはMCP-Atlasにおいてオープンモデルの中で首位に立ち、2台のM5 Ultra Mac Studioで動作します。「Meta Releases Muse Spark Open: 816B Open-Weight MoE With 1M…

Meta Superintelligence Labsが発表した Muse Spark Open同社のMuse Sparkモデルのオープンウェイト版です。Muse Spark Openは、トークンごとに42Bのパラメータを活性化する816BパラメータのMixture-of-Expertsモデルです。テキスト、画像、動画、音声を入力として受け取り、テキストを返し、1Mトークンのコンテキストウィンドウを備えています。Metaチーム 〜と主張している これまでで最も高性能な米国発のオープンウェイトモデルとなるとされています。開発者にとっての本当のニュースはデプロイメントです。NVFP4ビルドはApple M5 Ultra搭載のMac Studio 2台で動作します。

要約

  • サイズ: 合計816B / アクティブパラメータ42B(256エキスパート、トークンごとに8個がアクティブ)。1Mトークンのコンテキスト。
  • 動作環境: MLXによる2台のMac Studio(M5 Ultra、各512 GB)。NVFP4搭載のBlackwell Ultra GPU 4基またはH200 8基。Unslothの2-bit GGUFによる約300 GB構成。
  • パフォーマンス: エージェント的なツール利用に強く、コーディングでは大規模オープンモデルの中では中位の成績です。
  • 最良: Metaの比較表で最高スコアを誇るMCP-Atlas 89.2。
  • 最悪: Terminal-Bench 2.1では76.4で、Kimi K3(85.0)、GLM 5.3(83.9)、Qwen3.8(82.0)に及ばなかった。

Muse Spark Openとは何ですか?

Muse Spark Openは、コーディングと長期的なエージェント作業のために構築された、Meta製のネイティブマルチモーダルMoEモデルです。重みは同梱されています。 BF16 および NVFP4 Hugging Face上で公開。オープン版には追加の安全性ポストトレーニングが施された。Metaチームは、これによりシステムレベルのガードレールなしでもより頑健になると述べている。

このアーキテクチャはどのように機能するのですか?

The モデルカード 62層、隠れ次元8192の構成である。各MoE層は256個のエキスパートを持ち、top-kルーティングによりトークンごとに8個が活性化される。アテンションはグループ化クエリ方式で、クエリヘッド128個、KVヘッド16個である。視覚入力には別個の1.8BパラメータのPerception Encoderが処理を担う。語彙数は202,048トークンで、学習データは100以上の言語をカバーしている。

推論の深さは次のように設定します: reasoning_effort「: low、medium、high または xhigh。デフォルトは xhigh です。」

Muse Spark Openはベンチマークでどのような性能を示しますか?

Metaは、最大の推論努力でKimi K3、GLM 5.3、Qwen3.8-2.4T-A95Bなどと比較している。 ツール利用と知識の信頼性において最も強い結果を示しています:

  • MCP-Atlas: 89.2で、Qwen3.8(84.5)とGLM 5.3(84.2)を上回った。
  • JobBench: 61.8、GLM 5.3(61.4)を僅差で上回った。
  • HLE-Diamond、ツールなし: 26.1、Kimi K3の22.2に対して。
  • AA Omniscience: 25、Metaの表における最高スコア。
  • ツールを使用したZeroBench: 50.0、Kimi K3 の 41.0 に対して。

コーディングは弱点だ。Terminus 2ハーネスを使用したTerminal-Bench 2.1では、スコアは76.4である。Kimi K3は85.0に達し、GLM 5.3は83.9、Qwen3.8は82.0を記録している。Artificial Analysis Intelligence Indexは39だ。これはGLM 5.3(45)、Kimi K3(44)、Qwen3.8(40)の後ろに位置する。したがって「米国で最も高性能」という主張は成り立つが、中国のオープンモデルが全体では依然としてリードしている。

一部のライバル校のスコアは自己申告によるものであるが、 評価方法論 各ソースを一覧表示します。

Muse Spark Openにはどのようなハードウェアが必要ですか?

Metaの 開発者ガイドBF16の重みは約1.6 TBです。NVFP4はエキスパートのみを量子化し、約530 GBになります。モデルカードでは、NVFP4には少なくとも700 GBのVRAM、BF16には2 TBを推奨しています。

  • データセンター: NVFP4はBlackwell Ultra GPU 4基またはH200 8基で実行。
  • デスクトップ: 512 GB搭載のM5 Ultra Mac Studio 2台を、Thunderbolt 5経由のRDMAで接続しました。 MLX テンソル並列は、すべてのレイヤーを両方のマシンに分割して配置します。
  • ワークステーション: Unsloth Dynamic GGUFs 2 ビットでは合计约 300 GB のメモリに収まります。

開発者はどこで実行できますか?

初日対応エンジンには、SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、MLX、llama.cpp、Unsloth が含まれます。ホステッド API は、Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AI で利用可能です。 OpenRouter 入力1Mトークンあたり1.25ドル、出力1Mトークンあたり4.25ドルの価格を提示しています。

2つのドラフトモデルがデコードを高速化します:SGLang向けのDFlash V2と、vLLM向けのDSparkです。Metaは、AMD MI355X上でDFlash V2を使用した場合に3.7倍の単一リクエストスループットを達成したと報告しています。ファインチューニングは、TorchTitan、Hugging Face TRL、NVIDIA NeMo AutoModelに対応しています。

Muse Model Licenseでは何が許可されていますか?

この Muse Model License は、利用、ファインチューニング、蒸留、再配布を許可しています。最も重要な2つの条件は以下のとおりです:

  • 製品には「Built with Muse Spark Open」と表示しなければなりません。
  • 12か月間の収益が$20Mを超えるModel-as-a-Serviceプロバイダーは、Metaとの別途の契約を結ぶ必要があります。

内部利用、研究、および自社製品機能の動作への利用は、この収益条項の対象外です。

Muse Spark Open vs Kimi K3 vs GLM 5.3 vs Qwen3.8

機能Muse Spark OpenKimi K3GLM 5.3Qwen3.8-2.4T-A95B
総パラメータ数816B2.8T753B2.4T
アクティブパラメータ数42B104B約40B95B
コンテキスト1M1,048,5761,048,576ネイティブで262,144、最大1,010,000
入力テキスト、画像、動画、音声テキスト、画像、動画テキストテキスト
ライセンスMuse Model LicenseKimi K3 Licenseglm-5.3 ライセンスqwen3.8-max ライセンス
公開された重みBF16、NVFP4MXFP4(QAT)BF16、FP8BF16
AA Intelligence Index(Meta 経由)39444540
Terminal-Bench 2.1、Terminus 2(Meta 経由)76.485.083.982.0
MCP-Atlas(Meta 経由)89.282.384.284.5
Toolathlon Verified(ベンダー)72.876.573.072.5
ツール使用の HLE(ベンダー)61.056.062.556.2
DeepSWE 1.1(ベンダー、独自ハーネス)6067.566.956.6
デスクトップ構成M5 Ultra Mac Studio 2台非公開非公開非公開

主なポイント

  • 総パラメータ 816B、アクティブ 42B、コンテキスト 1M、テキスト/画像/動画/音声入力に対応。
  • MCP-Atlas(89.2)と JobBench(61.8)で Meta のオープンモデルの中で首位。
  • Terminal-Bench 2.1(76.4)では Kimi K3、GLM 5.3、Qwen3.8 に及ばない。
  • NVFP4 ビルドは MLX 経由で M5 Ultra Mac Studio 2台で動作。
  • ほとんどの利用は無料。収益が$20Mを超えるMaaSプロバイダーは契約が必要です。


以下をチェックしてみてください: モデル重み, 研究ブログ, 開発者ガイド および 評価方法論。本プロジェクトの研究者に全ての功績が帰属します。また、ぜひ私たちをフォローしてください: Twitter そして、私たちの 150k以上のML SubReddit および登録する 当社のニュースレター。ちょっと待って! Telegramを使ってるの? Telegramでもご参加いただけるようになりました。

この投稿 Meta、「Muse Spark Open」をリリース: 1Mコンテキスト対応の816BオープンウェイトMoE 最初に掲載されたのは MarkTechPost.

原文の出典

MarkTechPost

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください