AI圈报论文研究普通
X-AuT：面向语音 LLM 的渐进式音频编码器压缩与跨尺度蒸馏
原始标题：X-AuT： Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation
内容摘要
X-AuT 通过渐进式剪枝与跨尺度蒸馏压缩语音 LLM 的音频编码器，将 Qwen3-ASR-0.6B 的 18 层音频 Transformer 压到 16 层，十个中英文基准的宏平均错误率从 5.61% 降至 5.27%。压到 14 层时错误率为 5.75%，音频塔参数减少 20.7%。相同配方下，1.7B 教师模型带来 5.55% 平均错误率，优于自蒸馏的 8.45%。
内容分类AI 论文与研究
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源HuggingFace Daily Papers（社区热门论文）
站内情报编号intel-1353f48d970d8d75c20b1cf5