Mistral 推出 Batch API,批量推理成本降低 50%
Mistral Batch API
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Mistral 在 La Plateforme 上线 Batch API,处理高并发请求的成本比同步 API 调用低 50%。该 API 面向优先考虑数据量而非同步响应的场景,用户上传批处理文件后下载输出结果,适用于客户反馈与情感分析、批量文档摘要与翻译、向量嵌入和搜索索引构建、数据标注等。
来源:Mistral AI · mistral.ai