跳到正文
Together AI Blog·· 2026-03-26AI 评分52

Together AI 解析弱模型如何用 Divide & Conquer 在长上下文任务上匹敌 GPT-4o

Plan, divide, and conquer: How weak models excel at long context tasks

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Together AI 基于 ICLR 2026 论文提出分治框架,让 Llama-3-70B、Qwen-72B 等较弱模型在长上下文任务上匹配或超过 GPT-4o 单次全文处理。框架把噪声拆为模型噪声、任务噪声和聚合器噪声,指出调整提示词(如改为返回每块最小的两个数)可降低聚合噪声;方法在 QA、检索、摘要等跨块依赖中等任务上更便宜、更快、易调参,但在高跨块依赖任务上仍需单次全文处理。

来源:Together AI Blog · together.ai