Tupoi：一款严格 O(1) 内存、6 KB 状态的免注意力 LLM
Tupoi: An attention-free LLM with strictly O(1) memory and 6 KB state
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
Tupoi 是一款免注意力（attention-free）的大语言模型，内存占用严格为 O(1)，状态仅 6 KB。该模型以固定大小的状态替代随序列增长的注意力机制，从而在推理时保持恒定内存开销。
来源：github.com（经 Hacker News） · github.com