行业
General Compute 宣布与 Positron 合作集群级部署,GPU 与专用芯片分工处理 prefill 和 decode
导读
General Compute 宣布将 @positron_ai 作为下一个合作伙伴进行集群规模部署,硬件于 2027 年 Q1 上线,目标是让开源模型获得更快的推理。作者 Rohan Paul 解释其做法是 prefill 在 GPU 上运行、逐 token 生成交给 Positron 的内存优先硬件,对客户呈现为一个端点和一套 SLA;Positron 的芯片专注内存速度且不依赖 HBM。