正在加载陈远的个人网站

产品

面壁智能发布 LES 推理系统,让 MiniCPM-V 4.7 的 35B-A3B MoE 模型在手机上实时推理

X:面壁智能 OpenBMB (@OpenBMB)

导读

OpenBMB 发布 Lookahead Expert Scheduling(LES)推理系统,用于在端侧运行 MiniCPM-V 4.7 的 35B-A3B MoE 模型。