Charon：面向大规模 LLM 训练与推理的统一细粒度模拟器

字节跳动 Seed 提出 Charon，一个统一、模块化、细粒度的 LLM 性能模拟器，可预测大规模训练与推理表现。其整体预测误差稳定低于 5.35%，在大规模 GPU 集群训练场景下低于 3.74%。在一次实际推理部署中，Charon 找到的配置使系统吞吐量超过工程调优后的基线。