模型
淘宝 MNN 团队开源 MNN-Pocket-0.3B 端侧模型,iPhone 18 Pro 离线解码达 350 token/s
导读
淘宝 MNN 团队发布并开源面向手机应用的轻量模型 MNN-Pocket-0.3B,约 3 亿参数,在 iPhone 18 Pro 上通过 MNN 引擎完全离线运行,平均解码速度约 350 token/s。
模型
淘宝 MNN 团队发布并开源面向手机应用的轻量模型 MNN-Pocket-0.3B,约 3 亿参数,在 iPhone 18 Pro 上通过 MNN 引擎完全离线运行,平均解码速度约 350 token/s。