AI圈报
论文研究普通

Refuse without Refusal:安全微调响应结构分析以减少大语言模型误拒

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:Refuse without Refusal: A Structural Analysis of Safety-Tuning Responses for Reducing False Refusals in Language Models

内容摘要

该研究将安全微调数据集中的响应拆分为"拒答套话"与"拒答理由"两部分,发现套话会诱导模型依赖表面线索、妨碍区分有害与良性查询。仅用理由训练可在保持安全性能的同时减少误拒,该优势在上下文学习和推理时缓解方法中同样成立。研究强调精细安全监督数据的重要性,论文发表于 EMNLP 2026 主会。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-9cc7154694e7ad33804534c6