AI圈报论文研究普通
看清、说出、分类：LLM 涌现性失准的机制诊断与参数空间缓解
原始标题：See it, Say it, Sorted: Mechanistic Diagnosis and Parameter-Space Mitigation of Emergent Misalignment in LLMs
内容摘要
研究对 LLM 涌现性失准（EM）做二阶几何动态分析，发现方向性 Hessian 曲率集中在语义枢轴 token 上，有害-安全差距扩大主要源于安全梯度重叠下降。据此提出的参数级几何缓解框架，在 Qwen2.5-14B-IT 上将自由生成 EM 抑制最多 80.0%，并在四个开源指令模型家族中的另外三个（3B–20B）上验证同一有害子空间控制冻结 EM 响应的条件支持。
内容分类AI 论文与研究
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源HuggingFace Daily Papers（社区热门论文）
站内情报编号intel-95a4c314f187f845609fcf7a