论文研究普通
KoNA:评估视觉语言模型选择性拒绝回答能力的新基准
原始标题:Knowing What Not to Answer: Selective Non-Compliance in Vision-Language Models
内容摘要
韩国浦项科技大学团队提出 KoNA 基准,用于评估视觉语言模型(VLM)的选择性拒绝能力,涵盖错误前提、视觉不可及、普遍未知、任务可行性与安全性五类任务,每项任务通过配对单一与复合查询检验查询级和组件级拒绝表现。评测显示模型在需要选择性拒绝的复合查询中失败更明显;基于 KoNA 示例微调后的模型在拒绝准确率上显著提升,同时基本保持对完全可答任务的性能。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-60ba305042935c06911ebbae