面壁 MiniCPM-V 4.7 在 iPhone 18 Pro Max 上实现 20.51 tokens/sec 本地多模态推理

导读

OpenBMB 宣布 MiniCPM-V 4.7 在 iPhone 18 Pro Max（12GB）上实现平均 20.51 tokens/sec 的本地解码速度，较未优化的 SSD 专家加载基线提速 6.07×。提速来自 Lookahead Expert Scheduling（LES）、优化专家加载、细粒度量化与 DSpark 投机解码，GitHub 和 Hugging Face 已提供下载。