AI圈报
论文研究普通

DeepSeek 开源推理框架 DeepInfer 并发布技术报告,公开大规模部署细节

信息来源:X:邵猛 (@shao__meng)·
原始标题:DeepSeek 开源 DeepInfer 对应的技术报告,发布在知乎了,还是一贯的技术含量极高,非常多的内部细节都公开了,学不完,根本学不完!

内容摘要

DeepSeek 开源支撑其线上生产服务的高性能推理框架 DeepInfer,基于 Apache 2.0 许可证,并同步发布技术报告。框架集成 FlashMLA、DeepGEMM、DeepEP 等此前开源内核,加上调度、并行、DSpark 投机解码等系统层实现,同时支持 NVIDIA SM100 GPU 和华为昇腾 950 NPU。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:邵猛 (@shao__meng)
站内情报编号intel-85d9231a37b55d87c7d13958