跳到正文
原文
OpenRouter Announcements·· 10 天前精选AI 评分71

OpenRouter 推出 Batch API,批量推理约半价

Batch API: half-price inference by bundling requests

AI 导读

OpenRouter 推出 Batch API,提交批量请求后供应商可在 24 小时窗口内完成,per-token 价格通常为常规价的 50% 或更低,已支持 70 多个模型。

推荐理由

官方给出了实测的批次完成时长分布和提交时段差异,便于读者判断批量推理能否接入现有工作流。

来源:OpenRouter Announcements · openrouter.ai