行业
MiniMax 感谢 SGLang-TorchTPU 将 H3 模型带上 TPU
导读
MiniMax 转发并致谢 SGLang 团队:SGLang-TorchTPU 由 SGLang 与 Google TPU 团队、Meta PyTorch 团队共建,可将 MiniMax H3、GLM-5.3 Flash、Kimi K3 等开源模型部署在 TPU 上,并已支撑 Meta 生产环境推理。Muse Spark Open 在 InferenceX 8K/1K、bs=1 下解码达 770 tok/s,项目已在 GitHub 开源。MiniMax 表示期待高效视频推理方向更多开源工作。