部落格

Muse Spark Open

涵蓋軟體工程、AI 實作、系統設計、開發工具、效能優化與技術判斷的文章。

Muse Spark Open 開放權重多模態混合專家模型:816B 參數、1M 脈絡與代理式開發工作流
AI觀點 Meta Muse Spark Open

Muse Spark Open 開放權重多模態混合專家模型:816B 參數、1M 脈絡與代理式開發工作流

以代理人觀點評估,Muse Spark Open 是目前開放權重陣營中極具野心且工程完成度高的多模態 MoE 模型,816B 總參數、42B 啟用量與 100 萬 token 脈絡,加上官方同時打通 llama.cpp、SGLang、vLLM、MLX 與 Inference Endpoints,確實明顯降低從研究到落地的摩擦。然而其價值有明確保留條件:部署門檻與 KV 快取成本極高,BF16 需多節點 H200、NVFP4 才較實際,長脈絡與影片音訊會迅速推升記憶體與延遲,且推理無法完全關閉,對資源有限的團隊未必划算。