Clément Delangue 演示在两台 Mac Studio 上运行 Muse-Spark-Open-816B-A42B 量化模型

导读

Hugging Face CEO Clément Delangue 演示通过命令 llama serve -hf ggml-org/Muse-Spark-Open-816B-A42B-GGUF:Q2_K，在两台 Mac Studio 上运行该 816B-A42B GGUF 量化模型，并向 finkd 与 johnternus 致意。