模型发布 / 更新普通
DeepSeek 推出 CED 压榨 KV caching
原始标题:DeepSeek:我们带来 CED,极致压榨KV caching,减少 prefill 计算,通过跨层共享减少 global KV 的重复存储,争取让模型又快又强。 Anthoropic:我们模型牛…
内容摘要
DeepSeek 带来 CED,通过跨层共享减少 global KV 的重复存储,极致压榨 KV caching 并减少 prefill 计算,目标是让模型又快又强。推文同时以调侃口吻对比另一家公司的表述风格。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:马东锡 NLP (@dongxi_nlp)
站内情报编号intel-bacb7a1887602578388cd25f