在 Tenstorrent 硬件上运行大型语言模型：深入解析 vLLM TT 插件

vLLM 发布 TT 插件，用于在 Tenstorrent 硬件上服务大语言模型。该插件将 vLLM 的推理服务能力接入 Tenstorrent 加速器，具体性能数据与支持模型范围尚未披露。