跳到正文
Hugging Face Daily Papers·· 17 小时前AI 评分40

Library of Layers(LoL):在推理时自适应排序 Transformer 层

Library of Layers (LoL): Adaptively Ordering Transformer Layers at Runtime

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

研究者提出 Library of Layers(LoL)架构,可在推理时动态调整 Transformer 层的执行顺序,仅用一个超参数控制全局 transformer 块库大小,从而在参数复用与稀疏性之间平滑切换。

来源:Hugging Face Daily Papers · arxiv.org