Sakana AI 如何在 Modal 上部署约 1 万亿参数 MoE 模型 Sakana Namazu

导读

Modal 工程团队与 Sakana AI 合作，将约 1 万亿参数的 MoE 模型 Sakana Namazu 部署到 Modal 上，通过定制 NVFP4 量化与自训练 DFlash 草稿模型支撑其公开 API 上线。