本地 AI：Nvidia RTX 6000 Pro 上 DiffusionGemma（BF16）达 775 tok/s
Local AI: 775 tok/s, DiffusionGemma (BF16) on Nvidia RTX 6000 Pro
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
本地 AI 在 Nvidia RTX 6000 Pro 上以 BF16 精度运行 DiffusionGemma，实现 775 tok/s 的生成速度。该结果展示了消费级/工作站级 GPU 在本地部署扩散式语言模型时的吞吐表现。
来源：@organicgpt · X · x.com