Fireworks 为什么不支持 Voice AI

Fireworks 未支持语音模型，作者认为原因在于推理平台的优化方向不同：编码智能体需要优化 KV cache，内容生成需要优化投机解码，而语音 LLM 的缓存输入小、输出也小，目前尚无明确优化方案。TTS 和 STT 则是完全不同的领域，尽管 parakeet、kokoro、Qwen ASR 等开源模型已经可用，但自建仍需管理大量 GPU。