正在加载陈远的个人网站

模型

MiniCPM-V 4.7 推测解码达 370 tok/s

X:面壁智能 OpenBMB (@OpenBMB)

导读

MiniCPM-V 4.7 实现 370 tokens/sec?! 很高兴看到社区不断突破推测解码的极限。 特别感谢 @Tech2Wild 的整理!