如何用 Google 微基准测试评估 TPU 性能

Google 开源 TPU 微基准测试套件，可从 Network、Compute、HBM、Host Transfer 和 Attention 五个组件提供细粒度性能指标，用于验证真实硬件能力。借助这些基准建立 Roofline 模型，工程师能判断机器学习负载受限于计算、内存还是网络，并据此开展 kernel 调优、mesh 分片和重计算等针对性优化，提升大规模模型部署的硬件利用率。