正在加载陈远的个人网站

教程

MiniCPM-V 4.7 iPhone 推理提速至 20.51 tokens/s

X:面壁智能 OpenBMB (@OpenBMB)

导读

很喜欢这份拆解! 在 iPhone 上从 3.38 提升到 20.51 tokens/s——这是推理优化如何释放强大端侧 AI 的一个绝佳例子。 感谢重点介绍 MiniCPM-V 4.7 背后的工程工作!