论文研究普通
无限参数大型语言模型:基于实时数据生成和调整权重
内容摘要
研究者提出 Infinite-Parameter LLM,用紧凑超网络把运行时数据转成共享基座网络的低秩调制,使前馈权重由实时数据生成而非固定专家库存储。该方法对生成器隐码维持贝叶斯信念并在线更新,权重随会话演进重新推导,存储占用固定但可编译权重实际无限。作者称将运行时知识写入权重可摊薄计算、释放上下文窗口、跨轮次持久,并给出对照 in-context learning 与检索的评测协议。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hacker News 热门(buzzing.cc 中文翻译)
站内情报编号intel-4ffb5bd871b938617e8cdfe0