AI 导读
这是一篇后训练系列第二篇的教程,讲解 instruction tuning(SFT,监督微调)的原理与实践。
推荐理由
从 Alpaca 案例出发讲清指令微调的原理、损失掩码细节与能力边界,适合想动手微调的读者理解哪些 token 参与训练。
正文
https://x.com/i/article/2113363792482480128
来源:Dongxi 东锡 NLP · x.com
这是一篇后训练系列第二篇的教程,讲解 instruction tuning(SFT,监督微调)的原理与实践。
从 Alpaca 案例出发讲清指令微调的原理、损失掩码细节与能力边界,适合想动手微调的读者理解哪些 token 参与训练。
https://x.com/i/article/2113363792482480128
来源:Dongxi 东锡 NLP · x.com