SHAPE:用数学教育视角解析 LLM 数学推理的思维链
SHAPE of Chain-of-Thought in Math Reasoning
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
研究者提出 SHAPE 框架,从语义空间与启发式两个数学教育视角分析 LLM 的 Chain-of-Thought 轨迹,发现模型采用的数学启发式比传统 CoT 特征更能解释最终答案正确性,且模型倾向集中在少数语义空间内推理。研究还发现强化学习会导致启发式使用出现模式寻求,而通过后训练促进启发式多样性可提升数学推理准确率。
来源:Hugging Face Daily Papers · arxiv.org