Together AI 如何打造全球最快的语音转文字技术栈

Together AI 通过 TensorRT 多 profile 编译、条件 CUDA graph 节点和减少 CPU 拷贝等优化，使其 ASR 技术栈支撑了 Artificial Analysis 排名中最低延迟的两个语音转文字模型：NVIDIA Parakeet-TDT 0.6B v3 和 OpenAI Whisper Large v3。