模型发布 / 更新普通
👍 快搞成混合注意力, 社区会嗷嗷叫的
内容摘要
👍 快搞成混合注意力, 社区会嗷嗷叫的 【引用 @waterluffy】:@karminski3 8Bit 量化做了:https://huggingface.co/IFM/K2-Horizon-7B-FP8。4Bit在赶工。 我们还有显存拯救计划正在进行中。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:karminski (@karminski3)
站内情报编号intel-b7ac177c32c1b6ac43a0e659