Alibaba Qwen 发布 Qwen3.8-Flash-Next

Qwen 发布开源多模态 MoE 模型 Qwen3.8-Flash-Next，作为 Qwen4 架构的早期预览。模型总参数 125B，仅激活 6B 参数，带来显著性能提升。作者已在 DGX Spark 上通过 Unsloth 量化版本试用，包括 72.5GB 的 UD-IQ1_S 和 78.9GB 的 UD-Q2_K_XL 版本。

阿里通义千问发布 Qwen3.8-Flash-Next，采用与即将推出的 Qwen4 相同的架构创新。包括 510 亿参数的 N-gram Embedding（可将嵌入表卸载至低速廉价 DRAM）、门控残差连接（GR），以及微块粒度选择上下文的 Qwen 稀疏注意力（QSA）。这些创新展示了中国开源模型在残差连接等方向的前沿探索。

阿里 Qwen 团队发布开源权重多模态 MoE 模型 Qwen3.8-Flash-Next，125B 主干搭配 51B N-gram 嵌入表和 4B 多 token 预测模块，每个 token 仅激活 6B 参数，被视为 Qwen4 架构的早期预览。

阿里 Qwen 团队发布多模态 MoE 模型 Qwen3.8-Flash-Next，作为 Qwen4 的架构预览，总参数 1250 亿但每 token 仅激活 60 亿，并引入 510 亿参数的 N-gram 嵌入层，可运行于系统内存。

通义千问发布 Qwen3.8-Flash-Next，SGLang 即日支持部署。该模型为 125B 主模型，含 51B N-gram 嵌入，每 token 激活 6B 参数。N-gram 嵌入几乎不增加计算成本即可扩展容量，并可通过异步预取驻留内存；GDN+QSA 混合注意力兼顾长任务效率与检索精度。

Qwen 团队开源多模态 MoE 模型 Qwen3.8-Flash-Next，作为 Qwen4 架构的早期预览版。该模型采用 125B 参数主模型加 51B N-gram Embedding，每 token 激活 6B 参数，共 48 层，MoE 层使用 512 个专家和 top-10 路由。

Qwen3.8-Flash-Next 正式发布，这是一款高度稀疏的 MoE 模型，总参数 125B 外加 51B N-gram 嵌入，但每个 token 仅激活 6B 参数。

Qwen3.8-Flash-Next正式发布，这是一款高度稀疏MoE开源多模态模型，总参数125B加51B n-gram嵌入，每token仅激活6B参数，原生256K上下文可经YaRN扩展至1M。

通义千问开源 Qwen3.8-Flash-Next，一款多模态 MoE 模型，也是 Qwen4 架构的早期预览。该模型采用 GDN + QSA 混合注意力等四项升级，总参数 125B，每 token 激活 6B，训练成本约为 Qwen3.7-Plus 的 1/9，编码与办公任务能力更强。