Together AI 发布 Dedicated Container Inference,自定义模型推理提速 2.6x
Introducing Dedicated Container Inference: Delivering 2.6x faster inference for custom AI models
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Together AI 推出 Dedicated Container Inference,用户自带 Docker 容器部署视频生成、数字人等自定义生成式媒体模型,平台负责自动扩缩容、排队、流量隔离和监控。
来源:Together AI Blog · together.ai