clem 🤗· @ClementDelangue · X·· 2 小时前AI 评分57
AI 导读
Hugging Face CEO Clément Delangue 演示通过命令 llama serve -hf ggml-org/Muse-Spark-Open-816B-A42B-GGUF:Q2_K,在两台 Mac Studio 上运行该 816B-A42B GGUF 量化模型,并向 finkd 与 johnternus 致意。
正文
llama serve -hf ggml-org/Muse-Spark-Open-816B-A42B-GGUF:Q2_K (on two mac studios).
Well done @finkd & @johnternus!
来源:clem 🤗 · x.com