AI圈报
论文研究普通

RIBOSPAN:面向通用 RNA 建模的长上下文基础模型

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:RIBOSPAN: A Long-Context RNA Foundation Model for Versatile RNA Modeling

内容摘要

RIBOSPAN 是一个 16.1 亿参数的双向 RNA 基础模型,原生预训练上下文长度达 10,240 nt,支持单核苷酸分辨率的完整长 RNA 建模。原生 10K 预训练在 10,240 token 下保持强重建能力,长上下文基准显示其上下文响应与表征分离俱佳,且推理时 YaRN 缩放可恢复短上下文模型直接外推丢失的上下文组织。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-2e60cca732588cda5839beb1