LLM 测试中的吞吐量与有效吞吐量：性能指标之辨
Throughput vs. Goodput: The Performance Metricin LLM Testing
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
LLM 测试中，吞吐量（Throughput）与有效吞吐量（Goodput）是两个不同的性能指标，前者衡量系统整体处理量，后者只统计成功完成的有效请求。文章讨论了两者的区别及其在 LLM 性能评估中的意义。
来源：qainsights.com（经 Hacker News） · qainsights.com