AI圈报
模型发布 / 更新普通

面壁 MiniCPM-V 4.7 在 iPhone 18 Pro Max 上实现 20.51 tokens/sec 本地多模态推理

信息来源:X:面壁智能 OpenBMB (@OpenBMB)·
原始标题:35B multimodal AI. Running locally on an iPhone. Now at over 20 tokens/sec. 🚀

内容摘要

OpenBMB 宣布 MiniCPM-V 4.7 在 iPhone 18 Pro Max(12GB)上实现平均 20.51 tokens/sec 的本地解码速度,较未优化的 SSD 专家加载基线提速 6.07×。提速来自 Lookahead Expert Scheduling(LES)、优化专家加载、细粒度量化与 DSpark 投机解码,GitHub 和 Hugging Face 已提供下载。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:面壁智能 OpenBMB (@OpenBMB)
站内情报编号intel-aeb4bd3d3aa1e4604c353f70