热点事件持续更新
Cerebras 晶圆级芯片部署万亿参数模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Cerebras 此前已公开其晶圆级芯片部署超大参数模型的原理,说明如何借助片上大容量内存与层间切分,在单芯片体系内承载万亿级参数模型。2026 年 10 月 25 日,Cerebras 进一步披露具体案例:在 59 片 WSE-3T 晶圆上部署约 3 万亿参数的 Kimi K3,采用 4-bit 权重和 8-bit KV cache,实现 1000-2000+ tokens/s 推理。每片晶圆有 44 GB 片上内存,69 个线性注意力层每片放 2 层、24 个稠密层每片放 1 层,层间仅通过 RDMA over Ethernet 传递激活值,约 2 微秒一跳。目前进展为上述部署细节公开。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月25日
- cerebras.ai(经 Hacker News)Cerebras 如何用 59 片 WSE-3T 晶圆部署 3T 参数 Kimi K3,实现 1000-2000+ tokens/s
Cerebras 披露在 59 片 WSE-3T 晶圆上部署约 3 万亿参数的 Kimi K3,以 4-bit 权重和 8-bit KV cache 实现 1000-2000+ tokens/s 推理。每片晶圆 44 GB 片上内存,69 个线性注意力层每片放 2 层、24 个稠密层每片放 1 层,层间仅通过 RDMA over Ethernet 传递激活值,约 2 微秒一跳。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。