Apple 用潜空间蒸馏压缩流式神经音频编码器，2.8 倍压缩下 WER 仅升 1.9%

Apple 研究团队提出潜空间蒸馏方法压缩流式神经音频编码器（tokenizer），以教师模型量化前的逐帧潜表示为监督目标，仅训练学生编码器做回归，并用单层仿射层吸收师生宽度差异。在 2.8 倍压缩下，六组师生配对中有五组无需微调即保持在教师 1.9% 相对 WER 以内，并比同容量独立训练编码器相对提升 3.9%。该方法同时适用于独立预训练和与语言模型联合训练的 tokenizer。