Google Cloud 为 Reflection 开源权重模型 Beam 提供首日支持，经 llm-d 与 NVIDIA Dynamo 优化后吞吐提升至 5x
Day 0 support for Reflection’s Beam on Google Cloud: 5x faster perf with llm-d and NVIDIA Dynamo
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Reflection 发布首个开源权重模型 Beam（约 501B 总参数、每 token 激活约 23B、约 1M token 上下文窗口），采用 Apache 2.0 协议，提供 BF16、FP8、NVFP4 检查点，推理计算效率较同类开源模型高 3x 至 4x。
推荐理由
文章拆解了从 KV-cache 感知路由到分级缓存的每层优化手法，可迁移到其他多轮 Agent 推理部署场景。
来源：Google Cloud: Databases · cloud.google.com