论文研究普通
Memorizon:让世界模型在上下文窗口之外训练
原始标题:Memorizon: Training World Models Beyond Their Context Window
内容摘要
Memorizon 提出一种训练方法,让流式世界模型在远超上下文窗口的长跨度上接受监督:训练样本可覆盖任意长度,但只对最后 k 个 chunk 计分,每个计分 chunk 通过相机共视性检索自己的 top-K latent,其并集构成受 kK 约束的共享 bank,使序列长度保持有界。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-003a9f5a8184b82e68a0996f