HuggingFace Daily Papers（社区热门论文）·2026-09-26 08:00· 3 天前AI 评分42

DepthBench：衡量残差连接如何提升 Transformer 计算深度

DepthBench: Measuring How Residual Connections Enable More Computational Depth

AI 导读

研究者推出 DepthBench，一个在固定模型规模与预训练配方下系统改变宽深比（d_model/n_layer）的受控基准，用于衡量架构深度能否转化为有效计算深度。