论文研究普通
Aleph Alpha 发布技术报告:开源德英双语 MoE 模型 Kolibri(78.1B 参数,Apache 2.0)
原始标题:Kolibri – 技术报告 [pdf]
内容摘要
Aleph Alpha 发布技术报告,介绍开源权重模型 Kolibri,一个德英双语 MoE Transformer,总参数 78.1B、每 token 激活 3.46B(4.4%),采用 Apache 2.0 许可,权重见 https://huggingface.co/Aleph-Alpha/kolibri-1。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hacker News 热门(buzzing.cc 中文翻译)
站内情报编号intel-7fb30af02fdfd1fb264b7bdb