中国的 Groq 在哪里？

导读

ChinaTalk 发文追问“中国的 Groq 在哪里”，讨论 AI 推理芯片架构的分化。文章指出，2025 年底业界普遍认为 AI 推理必须依赖 HBM，因为推理解码是受内存带宽约束的操作，只有 HBM 能达到有效服务模型的带宽速度；但此后市场趋于成熟，已不再有单一架构通吃，不同芯片在训练、prefill 和 decode 上各有优势。