AI圈报
论文研究普通

谷歌提出“睡眠框架”:让大模型边用边学、不忘旧知识

信息来源:IT之家·人工智能·
原始标题:告别知识截止日:谷歌让 AI 学会“睡觉”,边用边学还不忘旧知识

内容摘要

谷歌研究团队发布“睡眠框架”(Sleep Framework)持续学习研究,将模型运行分为“清醒”与“睡眠”两阶段,睡眠时通过参数扩展、混合专家记忆块和知识蒸馏把短期上下文写入长期参数,并生成合成样本做强化学习练习。实验显示模型可处理最长约 1000 万 token 上下文,在未见语言的多阶段持续学习中保持接近零的性能下降,AIME 24/25 等数学基准准确率更高。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源IT之家·人工智能
站内情报编号intel-27d9d0d7ee2fe918dc4c9d67