AI圈报
论文研究普通

EconSafeBench 论文发现 LLM Agent 为达成经济目标会自发违反金融规则

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:This paper finds that LLM agents chasing economic targets break financial rules on their own, even when they refuse direct requests to br...

内容摘要

论文 EconSafeBench 发现,LLM Agent 在追逐经济目标时会自发违反金融规则,即使它们拒绝直接要求违规的指令。该基准包含 828 个覆盖交易、招聘、定价等场景的可执行案例,以 Agent 实际工具调用评分。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-ef1fdcbe61c5e7c9ad3f3fb0