CRISP:基于结构质量路由的悬崖感知输入自适应稀疏预填充
CRISP: Cliff-awaRe Input-adaptive Sparse Prefilling with Structural-Mass-Motivated Routing
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
CRISP 是一种面向长上下文 LLM 推理的输入自适应稀疏预填充方法,用结构代理 C_struct 替代 JSD 路由,并基于噪声底设置 sink-aware 阈值以消除选择阶段的 O(n) 背景噪声。
来源:Hugging Face Daily Papers · arxiv.org