产品发布 / 更新普通
面壁智能回应本地运行2B模型愿景
原始标题:Thanks for testing it out and sharing these numbers! 🙌 "Run a swarm of these locally" - that's exa…
内容摘要
感谢测试并分享这些数据!🙌 "在本地运行一群这样的模型"--这正是我们的愿景。2B 参数,Q4 量化后 1.56GB,4090 上 200+ tok/s,同时性能仍能跟上 4B 模型。这就是本地 AI 智能体应有的样子。 期待看到你用它们构建的东西 🔥
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:面壁智能 OpenBMB (@OpenBMB)
站内情报编号intel-c56aa82642053f4e01e0112a