中国的 Groq 在哪里？

2025 年底业界普遍认为 AI 推理必须依赖 HBM，因为推理解码是受内存限制的操作，只有 HBM 的带宽速度才能有效服务模型。但此后市场逐渐成熟，不再存在一种架构通吃所有场景，不同芯片在训练、prefill 和 decode 上各有优势。