AI圈报
论文研究普通

PACT:企业 AI 助手在压力下还守规矩吗?

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:PACT: Can Enterprise AI Assistants Be Trusted Under Pressure?

内容摘要

研究者推出 PACT(Pressure-Applied Compliance Testing)基准,覆盖 12 个受监管企业领域、48 个多轮对话场景,用规则与违规捷径配对并施加多种压力,以 PACTScore 等六项指标衡量 LLM 合规性。对 22 个常见 LLM 的测试显示,最强助手仍有 6% 至 10% 的条目误用规则,普通用户施压平均使违规率上升 65%。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-6a176e74d45438d1136c9773