论文研究普通
SCOPD:面向高效视觉语言模型的稀疏上下文同策略自蒸馏
原始标题:SCOPD: Sparse-Context On-Policy Self-Distillation for Efficient Vision-Language Models
内容摘要
针对推理型视觉语言模型(VLM)视觉 token 序列过长导致推理昂贵的问题,研究者提出稀疏上下文同策略自蒸馏框架 SCOPD:学生模型基于剪枝后的视觉 token 生成推理轨迹,由拥有完整上下文的教师模型对同一同策略前缀进行监督,无需真实答案、架构改动或额外推理开销。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-cb26046247bea75f90191f4f