Unsloth AI · @UnslothAI · X·2026-08-29 01:57·14天前
AI 导读

Unsloth 发布 GLM-5.3 的动态 GGUF 量化版本,2-bit 模型从 1.51TB 压缩到 239GB(缩小 83%),保留约 81% top-1 准确率,1-bit 则以缩小 85% 达到约 76%。

Unsloth AI@UnslothAI
精选
76AI 编辑部评分,满分 100
2026-08-29 01:57· 14天前
AI 导读

Unsloth 发布 GLM-5.3 的动态 GGUF 量化版本,2-bit 模型从 1.51TB 压缩到 239GB(缩小 83%),保留约 81% top-1 准确率,1-bit 则以缩小 85% 达到约 76%。

推荐理由

原文给出动态量化的精度与体积数据和不同位宽的硬件需求,读者可据此选择本地运行 GLM-5.3 的方案。

正文 · AI 翻译

GLM-5.3 现在可以在本地运行了!

我们将这个 2-bit 模型从 1.51TB 压缩到 239GB(体积减少 83%)后,仍保留了约 81% 的准确率。

可在 256GB 的 Mac 或相应 RAM/VRAM 配置上运行。

GLM-5.3 是迄今为止最强的开源模型。

指南:https://unsloth.ai/docs/models/glm-5.3 GGUF:https://huggingface.co/unsloth/GLM-5.3-GGUF

Z.aiGLM-5.3 现已开放权重。 我们迄今为止能力最强的智能体编程与网络防御模型,现已可供下载、运行和定制。 权重:https://huggingface.co/zai-org/GLM-5.3 技术博客:https://z.ai/blog/glm-5.3