AI 导读
DFlash 2 非常酷！ 投机解码是一项非常酷的技术。 我在等待有一天我们能在 iPhone 上本地运行 1T 模型，速度达到 100 toks/s。
正文
DFlash 2 is very cool!
Speculative decoding is such a cool technology.
I’m waiting for the day we can run a 1T model locally at 100 toks/s on an iPhone. https://t.co/mfQNG6IsBh
来源：@Yuchenj_UW · x.com