UCSD论文：长上下文检索失败源于竞争而非长度
先了解这件事
2026年11月3日，Hugging Face Daily Papers 介绍了一项 UC San Diego 的论文（arXiv:2611.04169），研究长上下文检索失败的原因。该研究在 5 个 0.5B–3B 开源模型上测试，发现中性填充文本使准确率保持在 0.97–1.00（Qwen2.5-1.5B 至 32K tokens），而同位置、同格式的竞争性语句使准确率降至 0.16–0.33，单个竞争值使损失放大 9–110 倍，据此认为主因是证据间的注意力竞争而非输入长度。11月4日，DAIR.AI 在 X 上介绍该研究，给出与论文一致的数字：加入 32K 无关文本时准确率仍为 97%-100%，存在含错误数值的相似语句时降至 16%-33%。目前该工作处于论文发布并被社交媒体传播介绍的阶段，尚无后续复现或同行评议进展的报道。
AI 根据报道生成 · 50 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
- DAIR.AI (@dair_ai) · XUC San Diego 论文：长上下文检索失败源于注意力竞争而非输入长度
UC San Diego 论文研究发现，长上下文检索失败的主因不是输入长度，而是与答案相似的干扰文本。在 Qwen2.5-1.5B 上加入 32K 无关文本准确率仍保持 97%-100%，但存在含错误数值的相似语句时准确率降至 16%-33%。
- Hugging Face Daily Papers论文：检索中的 context rot 源于注意力竞争而非长度
arXiv:2611.04169 研究发现长输入检索失败的主因不是长度而是证据间的竞争：5 个 0.5B–3B 开源模型中，中性填充文本使准确率保持在 0.97–1.00（Qwen2.5-1.5B 至 32K tokens），而同位置同格式的竞争性语句使其降至 0.16–0.33，单个竞争值使损失放大 9–110 倍。
本事件热度走势
当前热度 11·可比范围峰值 11（11月5日 05:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。