AI圈报
模型发布 / 更新普通

MiniCPM-V 4.7 推测解码达 370 tok/s

信息来源:X:面壁智能 OpenBMB (@OpenBMB)·
原始标题:370 tokens/sec with MiniCPM-V 4.7?! 🔥

内容摘要

MiniCPM-V 4.7 实现 370 tokens/sec?!🔥 很高兴看到社区不断突破推测解码的极限。 特别感谢 @Tech2Wild 的整理!🚀
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:面壁智能 OpenBMB (@OpenBMB)
站内情报编号intel-9206a87f8a96e056da0c9078