热点事件持续更新
指令微调与SFT训练目标解析
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月23日，X 平台用户“马东锡 NLP”发布内容，解析指令微调（SFT）的训练目标。该内容指出，指令微调沿用预训练阶段的下一 token 预测目标：在每个位置预测下一个 token，并以 cross-entropy loss 衡量预测结果与正确 token 之间的差距，训练过程即提高正确 token 的概率。数据方面，内容称需先经模型的 chat template 转换为对话格式的 token 序列，再用 loss mask 标出需要计算损失的 token，并强调 loss mask 是 recipe 中的重要部分。目前该事件仅有这一条报道，尚无其他来源的补充或后续进展。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 14:35
有内容解析称，SFT 沿用预训练的下一 token 预测目标，并用 loss mask 标出需计算损失的 token。报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- Dongxi 东锡 NLP (@dongxi_nlp) · X指令微调沿用预训练下一 token 预测目标
指令微调（SFT）沿用预训练训练目标：在每个位置预测下一个 token，用 cross-entropy loss 衡量预测与正确 token 的差距，训练提高正确 token 概率。数据经模型 chat template 转成对话格式 token 序列，再用 loss mask 标出需计算损失的 token，这是 recipe 中的重要部分。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。