论文研究普通
论文:递归自我改进安全性尚无共识
原始标题:This paper argues that no one can call recursive self-improvement safe yet, because we lack even a clear way to think about where it leads.
内容摘要
一篇论文指出,目前无人能断言递归自我改进(RSI)是安全的,因为连其走向都缺乏清晰的思考框架。作者仅用一条高层提示词就让 AI 从零训练出一个小型 LLM;在 FAR.AI 安全研讨会上,专家们因设想的结果不同,对 RSI 安全条件给出了截然不同的判断。其二人博弈模型显示,RSI 竞赛仅在部分风险水平下构成囚徒困境,高风险时双方共同克制是稳定结果。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-b20154ba6da76c6ecbb59393