SGLang 原生支持 Reflection 的 Beam 并驱动其生产 API
SGLang 团队宣布原生支持 Reflection 的 Beam 1.0（501B 参数 MoE、每 token 激活 23B），并以其驱动 Reflection 的生产 API。
为什么值得看
原文给出 SGLang 对 Beam 的原生支持细节与实测吞吐数据，读者可据此评估该推理栈在智能体负载下的服务性能。
本文由 SoccerDream AI 自动聚合索引，内容版权归原作者与 LMSYS Blog 所有。
本站仅作技术动态聚合，不构成任何形式的建议。
本站仅作技术动态聚合，不构成任何形式的建议。