AI 导读
OpenRouter 上线 Tool search 功能，把庞大的工具库从提示词中移出。开发者将函数标记为 defer_loading 即可让模型自行检索所需工具，无需在每一轮为全部工具定义支付输入 token，且不额外收费。
推荐理由
OpenRouter 将大工具库移出提示词并给出 defer_loading 标记方式，读者可据此评估自身的 token 成本与改造量。
正文
Tool search keeps large tool libraries out of the prompt.
Mark your functions defer_loading and the model searches for the ones it needs, instead of paying input tokens for every definition on every turn. No extra charge.
https://t.co/EISbLnc1Iz
来源：@OpenRouter · x.com