模型发布 / 更新普通
Qwen3.8-Flash-Next 发布,融合 Qwen4 架构创新
原始标题:Congrats to @Alibaba_Qwen on the release of Qwen3.8-Flash-Next, using the same architecture innovati…
内容摘要
阿里通义千问发布 Qwen3.8-Flash-Next,采用与即将推出的 Qwen4 相同的架构创新。包括 510 亿参数的 N-gram Embedding(可将嵌入表卸载至低速廉价 DRAM)、门控残差连接(GR),以及微块粒度选择上下文的 Qwen 稀疏注意力(QSA)。这些创新展示了中国开源模型在残差连接等方向的前沿探索。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:SemiAnalysis (@SemiAnalysis_)
站内情报编号intel-fac207b1804e1e2f8a6cdbee