UNREAL:用单一模型统一检索与长上下文推理
UNREAL: Unifying Retrieval and Long-Context with a Single Model
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
研究者提出 UNREAL,一种模型原生的证据选择框架,直接从冻结 LLM 的内部表示中编码 chunk 并生成检索查询,仅新增不到 500K 可训练参数且不改动主干。
来源:Hugging Face Daily Papers · arxiv.org
UNREAL: Unifying Retrieval and Long-Context with a Single Model
本站未展示全文,请前往来源网站阅读。
研究者提出 UNREAL,一种模型原生的证据选择框架,直接从冻结 LLM 的内部表示中编码 chunk 并生成检索查询,仅新增不到 500K 可训练参数且不改动主干。
来源:Hugging Face Daily Papers · arxiv.org