热点事件持续更新
推理模型“wait”标记来源研究
1 篇报道1 个报道来源22 小时前更新
先了解这件事
AI 综述
2026年10月22日,Hugging Face Daily Papers 报道了一项关于推理模型中“wait”标记来源的研究。该研究追踪开放模型的训练历史后发现,零强化学习几乎不会让模型自发产生“wait”标记:在缺乏该词的基座模型上,强化学习能显著提升 MATH-500 准确率,但“wait”仍近乎缺席。研究认为,该标记随训练数据而来,OLMo-3 的中期训练与推理轨迹微调可将其植入多数基座模型。研究还指出,标记频率本身不能指示强化学习诱导的推理,并警告 LLM-as-a-judge 评审指标可能反转人工标注的趋势。目前该研究处于论文发布阶段,尚无后续验证或复现报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月22日 16:03
新研究称“wait”标记源自训练数据而非强化学习,并警告评审指标可能失真。报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- Hugging Face Daily Papers研究揭示推理模型中的“wait”标记源自训练数据而非强化学习
研究追踪开放模型训练历史后发现,零强化学习几乎不会让模型自发产生“wait”标记:在缺乏该词的基座模型上,RL 能显著提升 MATH-500 准确率,但“wait”仍近乎缺席。该标记随训练数据而来,OLMo-3 的中期训练与推理轨迹微调可将其植入多数基座模型。研究还指出标记频率本身不能指示 RL 诱导的推理,并警告 LLM-as-a-judge 评审指标可能反转人工标注的趋势。
本事件热度走势
当前热度 5·可比范围峰值 6(10月23日 12:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。