MiniCPM5-2B 在 iPhone Air 上跑出 37 tok/s

导读

在 iPhone Air 上跑到 37 tok/s，太猛了。 这正是小而强的开源模型大放异彩的地方：无需云端 GPU 就能拥有强大的多模态智能。很高兴看到 MiniCPM5-2B 在移动端流畅运行。