产品发布 / 更新普通
Prime Intellect 推出 Prime Mega MoE:面向训练的高速融合 MoE kernel
原始标题:Prime Mega MoE: Fast Fused MoE Kernels for Training
内容摘要
Prime Intellect 在 DeepSeek 开源 Mega MoE kernel 基础上补上快速重叠的反向传播,使其可用于训练,MoE kernel 相比默认 PyTorch 实现最高快 3.11×,端到端训练相比 Prime-RL 基线最高快 1.34×(吞吐提升 34%)。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Prime Intellect(网页)
站内情报编号intel-21abffce0ad06b5caf550b9b