AI圈报
教程 / 实战精选

面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行

信息来源:公众号:面壁智能(MiniCPM)·
原始标题:面壁智能前瞻专家调度(LES):让 35B MoE 在手机上实时无损运行的推理技术

内容摘要

面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s。
内容分类AI 教程与实战
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源公众号:面壁智能(MiniCPM)
站内情报编号intel-8c32b8accfc8a7861c460105