引用OpenBMB@OpenBMB
🚀 ModelBest × @Tsinghua_Uni × OpenBMB 的 BitCPM-CANN 来了——而且它并不是在堆参数。
内存成本飞涨。硬件限制日益收紧。边缘 AI 需要更智能的解决方案——而 BitCPM-CANN 做到了!🎉
✅ 边缘就绪:8B 模型可在手机、PC 和车载设备上流畅运行。结合 MoE,甚至 100B->60B 规模的模型也能装进终端硬件。
✅ 内存高效:相比 BF16,内存占用降低约 6 倍——无需增加物理 RAM 即可解锁显著更多的模型容量。无需新芯片。
✅ 原生构建于昇腾:首个 1.58-bit 训练流水线在华为昇腾 910B 上端到端完成——从量化内核到完整训练栈。不是移植。从第一天起就原生构建于昇腾。
✅ 完整模型家族,全面验证,0.5B–8B:每个模型都与其全精度对应版本完全对齐,覆盖 11 项基准任务,相比全精度 MiniCPM4 保持 95–97%(1B-8B)的性能。开源且完全可复现——从研究到部署,你可以放心运行任何规模。
BitCPM-CANN 不只是一个模型——它是多年工程严谨性的成果,将复杂研究转化为你真正可以部署的东西。
开源,0.5B 到 8B。立即试用!👇
🤗 Hugging Face:
https://huggingface.openbmb.com/collections/openbmb/bitcpm4-cann
🔭 ModelScope:
https://www.modelscope.cn/collections/OpenBMB/BitCPM4-CANN