论文研究普通
StepGuard:以可扩展监督与安全-效用平衡实现步骤级护栏
原始标题:StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing
内容摘要
StepGuard 是一种步骤级护栏模型,可在工具调用前审查智能体动作并审计完整轨迹。其训练采用自动数据引擎 StepGen 生成同语境不同动作的安全/不安全轨迹,并以 Balance-GRPO 动态平衡安全与不安全动作的学习。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-839e04ec3deafb10c3201f8d