微软提出上下文引导的模型路由方法

2026年10月16日，DAIR.AI 在 X 上介绍微软的一篇论文，提出上下文引导的模型路由方法。该方法面向多轮智能体场景，把会话历史交给路由器，由其在便宜与昂贵模型之间按用户轮次分配任务。报道称，在相同卸载率下，读取历史的零样本路由器比只看当前请求的多完成 3.3 个百分点的任务。报道还提到，Prompt 缓存使每次切换产生成本：从贵模型切到便宜模型两次调用即可回本，反向切换则未能回本；长会话中便宜模型的成本优势也从 6.8x 缩至 3.2x。目前该消息仅来自这一条报道，未提及后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。