20 余位顶尖 AI 研究者警告：自动化 AI 研究可能引发"智能爆炸"极端风险

Geoffrey Hinton、Yoshua Bengio 与 OpenAI 研究负责人 Jakub Pachocki 等 20 余位 AI 研究者在新论文中警告，AI 研发自动化可能很快触发"智能爆炸"。论文指出，AI 系统已在开发它们的公司编写大部分代码，并可能在未来数年内自动化整个 AI 研发流程，使原本耗时数年的进展压缩到数月。作者呼吁政策制定者更深入地了解 AI 研究自动化的进展。