模型发布 / 更新普通
Thomas Wolf 点评 Recursive_SI 开源本地编码模型 Flint:lm_head 量化到 4 bit 仍接近 bf16
原始标题:My bar for AGI is still an AI winning a Nobel.
内容摘要
Thomas Wolf 称自己对 AGI 的标准仍是 AI 拿诺贝尔奖,但称赞 Recursive_SI 的 Flint 敢于把通常建议保持高精度的 lm_head 量化到 4 bit,结果距 bf16 仅 0.7 个百分点且以开放权重发布在 Hugging Face hub。引用内容介绍 Flint 为快速本地编码模型,MacBook Pro 上 125+ tokens/sec、RTX Spark 上 150+ tokens/sec,从零构建用时不到 4 个月,开放权重现已在 Hugging Face 提供。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Thomas Wolf(Hugging Face 联创/CSO) (@Thom_Wolf)
站内情报编号intel-48af8ead9dacb6f3a170d244