跳到正文
原文
Hugging Face Daily Papers·· 2 天前AI 评分42

LOCI:面向流式世界模型的空间线性记忆架构

LOCI: Spatial Linear Memory for Streaming World Models

AI 导读

LOCI 是一种混合空间记忆架构,在部分 Transformer 块中保留键值缓存,其余块则结合基于投影相机几何的循环线性注意力记忆,使视角同时参与记忆寻址与内容存储。在 MIND 基准与真实轨迹上,LOCI 比代表性世界模型及同配置全 softmax 模型更忠实地重现重访内容;保留完整历史时,同等长度下峰值内存降低约 30%。在有限记忆预算下,它还能以恒定内存流式处理长视频。

来源:Hugging Face Daily Papers · arxiv.org