按成功成本而非调用成本衡量:被忽视的 LLM 路由指标
Cost-per-success, not cost-per-call: the LLM routing number nobody measures
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
LLM 路由的评估普遍只看每次调用成本,却忽略了按成功成本(cost-per-success)衡量这一关键指标。文章指出,这一被忽视的数字才能真正反映路由策略的实际效率。
来源:nitishagar.medium.com(经 Hacker News) · nitishagar.medium.com