AI圈报
产品发布 / 更新普通

摩尔线程开源 Megatron-MUSA-Titan,聚焦万卡级集群万亿参数 MoE 模型训练

信息来源:IT之家·人工智能·
原始标题:摩尔线程开源 Megatron-MUSA-Titan,聚焦万卡级集群的万亿参数 MoE 模型训练

内容摘要

摩尔线程宣布开源大模型训练基础设施项目 Megatron-MUSA-Titan,基于其全功能 GPU,面向万卡级集群的万亿参数 MoE 模型训练,覆盖预训练与强化学习两大场景。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源IT之家·人工智能
站内情报编号intel-2045d2440b65f4f83eb620f7