跳到正文
Tencent Hy· @TencentHunyuan · X·精选AI 评分69

腾讯混元发布 Hy3 1-bit 与 4-bit 版本

AI 导读

找不到基准测试和下载链接?看这里👇huggingface.co/AngelSlim/Hy3-… 我们刚刚发布了 Hy3 的 1-bit 与 4-bit 版本,这是一个旗舰级 295B 模型,可在单张 GPU 上运行。👌 使用 llama.cpp 运行 Hy3,启用 MTP,在显著更低的硬件上体验强大的智能。🚀🚀🚀 迫不及待想看到你们的作品。 #Hy3 #Hy #GGUF #llamacpp

推荐理由

混元把295B旗舰模型压进单GPU,1-bit和4-bit版本对本地部署是个大礼包,开源社区可以动起来了。

正文 · AI 翻译

找不到基准测试和下载链接?看这里 👇
huggingface.co/AngelSlim/Hy3-…

引用Tencent Hy@TencentHunyuan

我们刚刚发布了 Hy3 的 1-bit 与 4-bit 版本,这是一款旗舰级规模的 295B 模型,可在单张 GPU 上运行。👌

使用 llama.cpp 运行 Hy3,启用 MTP,即可在显著降低的硬件配置上体验强大的智能能力。🚀🚀🚀

迫不及待想看看你们会用它构建什么。

#Hy3 #Hy #GGUF #llamacpp

原文

We’ve just released the 1-bit & 4-bit version of Hy3, a flagship-scale 295B model that can be served on a single GPU. 👌

Run Hy3 with llama.cpp, enable MTP, and experience powerful intelligence on dramatically lower hardware.🚀🚀🚀

Can’t wait to see what you build.

#Hy3 #Hy #GGUF #llamacpp

在 X 查看被引用的帖子

来源:Tencent Hy · x.com