正在加载陈远的个人网站

教程 · 精选

Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型

Apple Machine Learning Research(RSS)

导读

Apple 机器学习研究团队演示如何在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 等前沿模型,使用今天发布的新版 MLX(v0.30.1 起)与 macOS 26.2 的 RDMA over Thunderbolt 驱动。

推荐理由

Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。