字节 Seed 为什么不蒸馏别的模型?
速描 | 字节 Seed 为什么不蒸馏别的模型?
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
字节跳动创始人张一鸣在 Seed 全员会上明确表态,闭源模型和开放权重模型都不能蒸馏,Seed 可以接受暂时的落后。硅星人了解到,早在 2023 年字节就禁止将 GPT 生成的数据加入训练数据集;2025 年以来 Seed 内部至少发生三次关于蒸馏的路线争论,分别由 DeepSeek-R1 发布、Blackwell 系列 GPU 部署拉大算力差距、Kimi K3 成功引发。
来源:硅星人Pro · 微信公众号 · mp.weixin.qq.com