SplitMoE：分角色稀疏架构改进视频扩散

2026年9月29日，HuggingFace Daily Papers 收录论文《SplitMoE：用分角色稀疏架构打破视频扩散模型的均匀性陷阱》。该工作针对传统 token-wise MoE 因均匀专家使用正则化而导致的“均匀性陷阱”，提出分角色稀疏架构 SplitMoE：将专家池拆分为语义专家与通用专家，并配合原型引导路由和拉推正则化，使 token 按语义属性自然聚类。报道称，在等效激活参数预算下，SplitMoE 在收敛速度、路由一致性和视频生成质量上均优于传统负载均衡 MoE。目前该报道仅给出方法思路与相对优势结论，未披露具体数据集、模型规模或量化指标，事件仍处于论文发布与社区展示阶段。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。