AI圈报
模型发布 / 更新普通

👍 快搞成混合注意力, 社区会嗷嗷叫的

信息来源:X:karminski (@karminski3)·

内容摘要

👍 快搞成混合注意力, 社区会嗷嗷叫的 【引用 @waterluffy】:@karminski3 8Bit 量化做了:https://huggingface.co/IFM/K2-Horizon-7B-FP8。4Bit在赶工。 我们还有显存拯救计划正在进行中。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:karminski (@karminski3)
站内情报编号intel-b7ac177c32c1b6ac43a0e659