公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文(在新标签页打开)Ling-3.0-tiny 正式开源:1.3B 激活参数如何进入真实任务
AI 导读
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、每 Token 仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
公众号:蚂蚁百灵(Ling)
精选
75
AI 编辑部评分,满分 100Ling-3.0-tiny 正式开源:1.3B 激活参数如何进入真实任务
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、每 Token 仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
推荐理由
1.3B 激活参数在 Mac 上实测首 Token 低于 100 毫秒,比只看参数量的轻量叙事更有参考价值,端侧 Agent 的落地边界因此更具体。
来源:公众号:蚂蚁百灵(Ling)· mp.weixin.qq.com