观点 / 方法普通
扎克伯格谈 AI 安全与对齐:Meta 曾为安全推迟数月发布 Muse
原始标题:Last month I wrote about how we can build a positive and safe future for everyone: http://meta.com/t...
内容摘要
Mark Zuckerberg 发文回应关于在能力进展前放缓、等待对齐跟上的争论,认为信任与对齐正成为区分智能体和模型的最重要能力,不专注对齐的实验室会落后。他指出实验室因用户不信任失准智能体、模型致害需担责而有强激励做安全,并列举 Meta 的做法:曾为安全推迟数月发布 Muse、MSL 已在多个领域引入独立评估者、承诺将大部分算力用于服务用户而非追求递归自我改进。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Mark Zuckerberg (@finkd)
站内情报编号intel-76adc3e217213f1435f6e3ba