AI圈报
论文研究精选

OpenAI 与 DeepMind 合作研究从人类偏好中学习

信息来源:OpenAI:官网动态(RSS · 排除企业/客户案例)·
原始标题:Learning from human preferences

内容摘要

OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类判断两个候选行为中哪个更好来推断人类想要什么。该工作旨在免去人工编写目标函数,避免为复杂目标使用简单代理或目标偏差导致不良甚至危险行为,是构建安全 AI 系统的一步。
内容分类AI 论文与研究
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源OpenAI:官网动态(RSS · 排除企业/客户案例)
站内情报编号intel-80eafe0882340ce5ba933d95