伯克利与 MIT 开源 FreeToken，RTX 4060 跑 35B 模型每秒约 39 Token

加州大学伯克利分校和麻省理工学院的研究人员开源了推理引擎 FreeToken，通过动态协同调度让消费级硬件运行前沿 MoE 模型。据论文基准测试，它在 8GB 显存的 RTX 4060 笔记本上运行 Qwen3.6-35B 约每秒 39 Token，相同 MoE 模型上解码速度比 Ollama、llama.cpp 快 3～4 倍，预填充快 6～30 倍。