AI圈报
模型发布 / 更新普通

Qwen3.8-Flash-Next 发布,融合 Qwen4 架构创新

信息来源:X:SemiAnalysis (@SemiAnalysis_)·
原始标题:Congrats to @Alibaba_Qwen on the release of Qwen3.8-Flash-Next, using the same architecture innovati…

内容摘要

阿里通义千问发布 Qwen3.8-Flash-Next,采用与即将推出的 Qwen4 相同的架构创新。包括 510 亿参数的 N-gram Embedding(可将嵌入表卸载至低速廉价 DRAM)、门控残差连接(GR),以及微块粒度选择上下文的 Qwen 稀疏注意力(QSA)。这些创新展示了中国开源模型在残差连接等方向的前沿探索。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:SemiAnalysis (@SemiAnalysis_)
站内情报编号intel-fac207b1804e1e2f8a6cdbee