模型
Edge0 开源 145B 端侧模型，可在笔记本本地运行
导读
Edge0 宣布开源 Edge0-145B 与 Edge0-120B 模型及统一推理框架和部署工具，称 Edge0-145B 是首个可在个人电脑本地运行的 145B 参数开源模型。
推荐理由
原文给出具体基准分数、内存和速度实测数据，并开源了权重和推理框架，读者可据此评估端侧大模型的实际可用性。
模型
Edge0 宣布开源 Edge0-145B 与 Edge0-120B 模型及统一推理框架和部署工具，称 Edge0-145B 是首个可在个人电脑本地运行的 145B 参数开源模型。
原文给出具体基准分数、内存和速度实测数据，并开源了权重和推理框架，读者可据此评估端侧大模型的实际可用性。