OpenRouter Announcements·· 10 天前精选AI 评分71
OpenRouter 推出 Batch API,批量推理约半价
Batch API: half-price inference by bundling requests
AI 导读
OpenRouter 推出 Batch API,提交批量请求后供应商可在 24 小时窗口内完成,per-token 价格通常为常规价的 50% 或更低,已支持 70 多个模型。
推荐理由
官方给出了实测的批次完成时长分布和提交时段差异,便于读者判断批量推理能否接入现有工作流。
来源:OpenRouter Announcements · openrouter.ai