Periscope：让冻结语言模型突破上下文窗口限制的无训练推理方法
Periscope: Extending Frozen Language Models Beyond Their Context Window
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Periscope 是一种免训练推理方法，将文本的 N 个 chunk 排成 K×K 网格，让冻结模型对 K 个局部连续 span 和 K 个跨步 span 回答同一问题，每个答案取最佳局部与跨步分数。
来源：Hugging Face Daily Papers · arxiv.org