OpenRouter 重建默认供应商路由算法,以实际推理质量取代纯价格排序
How we rebuilt provider routing for better, faster inference
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
OpenRouter 宣布自创立以来最大的一次路由算法升级,默认路由不再主要按输入价格分配流量,而是实时跟踪各端点的有效价格、TTFT、吞吐、错误率和输出质量,计算“一次尝试的成本乘以成功率”的 Routing Cost。
推荐理由
官方给出新路由算法的机制细节和一周实验数据,读者可以据此评估成本上升 6% 换来的速度与可靠性提升是否值得。
来源:OpenRouter Announcements · openrouter.ai