智源 AREX 研究小组发布 AREX-2：27B 模型靠长程反思训练超越更大规模模型
27B小模型反超1.6T巨兽！智源AREX-2长程反思撬动RSI新路径
智源研究院等机构组成的 AREX 研究小组发布 AREX-2 模型，以 Qwen3.8-27B 为基座，用机器学习与算法编程场景的长程反思数据训练。
机器之心 2026-10-27 12:03 北京
AI自我改进有了训练路径。
机器之心发布
当模型学会持续迭代改进算法，便推开了通往智能自主进化的大门。近日，由来自智源研究院、中国科技大学、中国人民大学等多个机构的研究人员组成的 AREX 研究小组发布 AREX-2 模型。该模型以轻量级的 Qwen3.8-27B 为基座，基于围绕机器学习与算法编程场景构建的长程反思数据训练而成，不仅在 MLE-bench Lite、Frontier-CS 上展现出领先的机器学习与算法编程能力，更将这种能力迁移至深度研究与科学问题求解，在 BrowseComp、HLE 等重要基准上刷新了开源轻量模型的最佳表现。这些结果表明，长程反思训练有望帮助模型习得跨领域的自我改进能力，让更多测试时投入持续转化为更好的结果，为 RSI 提供一条可训练、可验证的实现路径。
九月的前三周，GPT-6 Astra、Fable 5.1 等旗舰模型接连登场。当人们还在惊叹于 Claude 用 11 天、1300 万行代码完成费马大定理的首个形式化证明时，仅仅四天后，OpenAI 就宣布，其模型可能解决了另一道数学难题 —— 千禧年大奖难题之一的 Navier–Stokes 方程问题。新模型不断涌现，一次次刷新人们对智能边界的想象，也让一个问题愈发引人关注：模型能否持续改进自身，从而走得更远？
递归自我改进（Recursive Self-Improvement，简称 RSI）由此成为研究者、创业者和投资人共同关注的方向。但热议之下，一个基本问题仍有待回答：究竟什么是 RSI，又该如何培养和衡量这种能力？
AREX 团队给出了一个具体的切入点：在单次任务中，让智能体在测试时通过持续反思与迭代，不断改进自身的解题方案。从这一视角看，RSI 并不神秘，而是一种新的测试时扩展（test-time scaling）范式 —— 让更多轮次的投入，持续转化为更好的结果。
这一能力的核心，在于反思与长程。前者决定每一轮改进的质量，后者决定改进能够持续多久。二者如同复利中的收益率与时间，共同影响最终的回报。而培养这种能力的关键，是让模型从训练数据中学会 “如何持续改进”。
AREX 团队进一步提出：长程反思是一种可以跨领域迁移的元能力。如果能找到合适的训练场，模型便有望将在一个领域习得的改进方法，运用到其他领域。为此，团队选择了机器学习与算法编程两个场景：它们既有丰富的任务素材，也能提供清晰、可验证的环境反馈，为智能体在多轮迭代中持续提升表现创造了条件。
以上述场景为训练场，团队基于 Qwen3.8-27B 开发了 AREX-2。实验中，AREX-2 展现出突出的测试时扩展能力：在 MLE-bench 和 Frontier-CS 上分别取得 81.8 和 70.7 的成绩，大幅刷新开源轻量模型的最佳表现；在 BrowseComp 和 HLE 上也分别达到 84.0 和 52.6，较上一代 AREX 显著提升。
这些结果表明，长程反思训练有望帮助模型学得跨领域的自我改进能力，让更多测试时投入持续转化为更好的结果，为 RSI 提供一条可训练、可验证的实现路径。
AREX 团队
RSI 是一种新的测试时扩展范式
什么是 RSI，又该如何培养和衡量模型的这种能力？
AREX 团队给出了一个具体的切入点：在单次任务中，让智能体在测试时通过持续反思与迭代，不断改进自身的解题方案。从这一视角看，RSI 并不神秘，而是一种新的测试时扩展（test-time scaling）范式 —— 让更多轮次的投入，持续转化为更好的结果。
这一能力的核心在于点：用问题来驱动，反思与长程。
反思能力，决定每一轮改进的质量：智能体能否依据反馈，提出比当前方案更好的方案？反思的价值不在于写出一段 “自我评价”，而在于将发现的问题转化为真正有效的修改。
长程能力，决定改进能够持续多久：智能体能否在多轮执行中持续推进，让改进过程不因一次失败、一次回退，或反复尝试无效方向而过早停滞？长程的重点不是运行时间本身，而是能够积累多少轮有效改进。
反思和长程能力如同复利中的收益率与时间，共同影响最终的回报。而培养这种能力的关键，是让模型从训练数据中学会 “如何持续改进”。遗憾的是，能够完整展现这一过程的数据，恰恰是现有语料中最稀缺的部分。
机器学习与算法编程
天然的长程反思能力训练场
AREX 团队提出：长程反思是一种可以跨领域迁移的元能力。如果能找到合适的训练场，模型便有望将在一个领域习得的改进方法，运用到其他领域。
为此，团队选择了机器学习与算法编程两个场景：它们既有丰富的任务素材，也能提供清晰、可验证的环境反馈，为智能体在多轮迭代中持续提升表现创造了条件。
具体而言，智能体在 GitHub 机器学习项目中改进模型与训练方案，在在线评测题目中优化算法程序，并通过隐藏评测中的模型指标、测试通过比例或解的质量，检验每轮改进的效果。
在这两个场景下，教师智能体先自主构建任务、评分机制与运行环境，通过实际执行，筛选出可运行且有足够提升空间的环境。随后，在充足的时间与轮次预算下，循环开展 “提交方案 → 获取反馈 → 反思改进”，并按需查阅资料、使用技能和开展实验。推理、尝试、失败及后续调整均保留在轨迹中，形成展示 “如何持续改进” 的训练数据。
在机器学习与算法编程中训练持续改进能力，深度研究同样受益
域内评测：27B 模型在 MLE-bench 领先全部对比模型
AREX-2 首先在机器学习与算法编程任务中验证这条训练路线。
在 MLE-bench Lite 上，27B 的 AREX-2 取得 81.8，超过本次报告列出的全部对比模型，包括闭源前沿模型。其中，GPT-5.6 Sol 与 Kimi-K3 均为 72.7，AREX-2 领先 9.1 个百分点。在 Frontier-CS 上，AREX-2 取得 70.7，领先表中所有已报告该项成绩的开放权重模型。
这组结果说明，围绕可验证反馈构建的长程改进轨迹，能够成为有效的训练信号。模型学习的不只是如何生成初始方案，还包括如何根据反馈继续优化方案。对于机器学习与算法编程这类任务，这种持续改进能力已经体现为具有竞争力的任务表现。
图 1a｜主实验：机器学习与算法编程。AREX-2在 MLE-bench Lite 取得 81.8，在 Frontier-CS 取得 70.7。
跨域迁移：在深度研究任务中同样受益
更重要的问题是：在机器学习与算法编程中学到的持续改进能力，能否用于深度研究？AREX-2 沿用 AREX v1 的深度研究数据，并在此基础上加入新合成的长程反思轨迹。也就是说，这次探索并不是依靠新增深度研究数据来提升深度研究成绩，而是检验其他领域的改进过程能否提供有效的能力增益。
实验中，AREX-2 在 BrowseComp 与 HLE 上分别取得 84.0 和 52.6，均为本次报告列出的不超过 40B 参数模型中的最高成绩。
这一结果支持了 AREX 团队提出的能力迁移假设：长程反思不只是某一类任务中的求解技巧，也可以成为跨领域发挥作用的自我改进能力。
图 1b｜主实验：深度研究与智能体任务。AREX-2 的 BrowseComp、HLE 成绩均为图中不超过 40B 参数模型的最高值
参数量与性能：更小模型也能进入更高能力区间
将任务成绩与参数规模放在一起，AREX-2 的特点更加清晰。
在 MLE-bench Lite 上，27B 的 AREX-2 取得 81.8，高于 35B 的 Frontis-MA1-35B (71.2)，也高于 2.8T 的 Kimi-K3 (72.7)。在 BrowseComp 上，AREX-2 取得 84.0，高于 1T 的 Kimi-K2.6 (83.2)，以及 1.6T 的 DeepSeek-V4-Pro (83.4)。
AREX-2 的意义不只是 “以小胜大”。它揭示的是另一条能力提升路径：除了扩大模型规模，还可以通过针对持续改进过程的专门训练，让模型更有效地利用反馈、修正方案并积累迭代收益。
图 2｜参数量与性能对比。AREX-2 展现出优越的参数效率，持续位居帕累托前沿（Pareto frontier），并取得了可比肩甚至超越更大规模模型的性能表现
长程反思数据
为 RSI 提供有效训练路径
AREX-2 的探索表明，长程反思数据不仅能改善模型在训练领域内的表现，还有望帮助模型习得可迁移的自我改进能力。
对 RSI 而言，这提供了一条值得探索的路径：让模型学会从每一轮尝试中积累经验，并在更长的任务进程中，将这些经验转化为持续的进步。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：liyazhou@jiqizhixin.com
来源：机器之心 · 微信公众号 · mp.weixin.qq.com