AI圈报
论文研究普通

Intel 论文提出 BITCOS 布局,三元大语言模型突破 1.58 比特存储障碍

信息来源:Hacker News 热门(buzzing.cc 中文翻译)·
原始标题:三元大语言模型突破1.58比特障碍

内容摘要

Intel 研究人员提出 BITCOS,一种由存在位图加压缩符号向量组成的三元权重布局,按零密度 z 计每权重仅需 2−z 比特。实测 29 个 SOTA 三元模型的零密度为 29.7%-51.5%,其中 26 个在 BITCOS 下比五 trit 打包存储更紧凑,最稀疏模型达 1.485 比特每权重。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hacker News 热门(buzzing.cc 中文翻译)
站内情报编号intel-31bc3f0ee79ea0f463081d26