论文称频繁压缩上下文可保长任务精度
先了解这件事
2026年11月3日，Hugging Face Daily Papers 推介 arXiv 论文《You don't need long context》。论文指出，后置 token 的生成成本最高可达前置 token 的 7 倍；通过频繁压缩上下文，前沿语言模型在长程与长输入任务上几乎不损失精度。作者还发现，每轮上下文仅保留一个动作时，LLM 在长程软件工程任务上的性能也不会崩溃。据此，论文提出语义状态空间模型（SSSMs）概念，并质疑长上下文语言模型的必要性。11月4日，Elvis Saravia 在 X 上推荐 NVIDIA 论文《You don't need long context》（arXiv:2611.05306），称频繁上下文压缩能让前沿大模型在长程和长输入任务上几乎不损失准确率，同时保持短上下文。早先报道未标注该论文的机构归属与 arXiv 编号，后续报道则将其归为 NVIDIA 论文并给出编号 arXiv:2611.05306。11月5日，Rohan Paul 在 X 上进一步介绍该论文：256K 上下文窗口比 16K 的每 token 生成成本高 3.6x 到 7x；方法是在设定限额处停下写交接笔记后重启，长文档用 Bash 工具搜索而非全文读取。目前尚无独立验证或复现报道。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Rohan Paul (@rohanpaul_ai) · XNVIDIA 论文：Agent 频繁压缩历史保持短上下文，几乎不损失准确率
NVIDIA 论文发现 AI Agent 频繁压缩历史、保持短上下文时准确率几乎不降。256K 上下文窗口比 16K 的每 token 生成成本高 3.6x 到 7x；方法是在设定限额处停下写交接笔记后重启，长文档用 Bash 工具搜索而非全文读取。
- elvis (@omarsar0) · X精选NVIDIA 论文：频繁上下文压缩可在保持短上下文的同时几乎不损失智能体任务准确率
Elvis Saravia 推荐 NVIDIA 论文《You don't need long context》（arXiv:2611.05306），指出频繁上下文压缩能让前沿大模型在长程和长输入任务上几乎不损失准确率，同时保持短上下文。
- Hugging Face Daily PapersarXiv 论文《You don't need long context》论证频繁压缩上下文可不损失任务精度
论文指出后置 token 生成成本最高可达前置 token 的 7x，并展示通过频繁压缩上下文，前沿语言模型在长程与长输入任务上几乎不损失精度。作者还发现每轮上下文仅保留一个动作时 LLM 在长程软件工程任务上性能也不崩溃，据此提出语义状态空间模型（SSSMs）概念，质疑长上下文语言模型的必要性。
本事件热度走势
当前热度 20·可比范围峰值 21（11月5日 03:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。