模型发布 / 更新普通
商汤发布 SenseNova-Loop-9B 的 AWQ 与 GGUF 量化权重
原始标题:More ways to run #SenseNova-Loop-9B!
内容摘要
商汤为开源模型 SenseNova-Loop-9B 发布更多运行方式:4-bit AWQ 权重约 4.9 GB 并附带配套 MTP draft model,以及 Q4_K_M、Q5_K_M、Q8_0 和 BF16 的 GGUF 格式,可配合其 llama.cpp fork 使用。AWQ 和 GGUF 权重均已上架 Hugging Face,官方邀请用户试用并反馈。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:商汤 SenseTime (@SenseTime_AI)
站内情报编号intel-b061651da4ad2d8bc49ab9a5