vLLM 针对多模态模型的推理优化实践|AICon 深圳
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
vLLM committer 莫梓峰将在 8 月 21 日—22 日举办的 AICon 深圳站分享《vLLM 针对多模态模型的推理优化实践》。
来源:InfoQ · 微信公众号 · mp.weixin.qq.com
本站未展示全文,请前往来源网站阅读。
vLLM committer 莫梓峰将在 8 月 21 日—22 日举办的 AICon 深圳站分享《vLLM 针对多模态模型的推理优化实践》。
来源:InfoQ · 微信公众号 · mp.weixin.qq.com