SGLang 为 816B 开源多模态 MoE 模型 Muse Spark Open 提供 Day-0 支持
SGLang 团队宣布对 Meta 开源多模态 MoE 模型 Muse Spark Open(816B 参数、约 42B 激活、1M token 上下文)提供 Day-0 推理支持,权重提供 NVFP4 和 BF16 两种格式。
为什么值得看
原文给出了多平台推理与 RL 训练支持的完整细节和实测吞吐数据,读者可以据此评估大规模部署该模型的可行路径。
本文由 SoccerDream AI 自动聚合索引,内容版权归原作者与 LMSYS Blog 所有。
本站仅作技术动态聚合,不构成任何形式的建议。
本站仅作技术动态聚合,不构成任何形式的建议。