VoltanaLLM:能效优先的 LLM 服务方案
VoltanaLLM: Energy-Efficient LLM Serving
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
VoltanaLLM 是一个面向 LLM 服务的高能效方案。该条目在 Hacker News 上获得 2 分,暂无评论。原文未披露具体模型、参数规模、性能数字或可用性信息。
来源:supercomputing-system-ai-lab.github.io(经 Hacker News) · supercomputing-system-ai-lab.github.io