苹果发布流式神经音频编码器蒸馏压缩研究

苹果在官方机器学习博客发布研究，提出通过潜空间蒸馏（latent-space distillation）压缩流式神经音频编码器。该编码器用于 Apple 设备的系统级听写（Dictation)，负责把短窗波形映射为语言模型可读的表示；研究提到在 Instruction-Following Pruning 下模型稀疏激活，任意时刻仅少量专家占用 DRAM。