AI 导读
Google 研究出一种大幅压缩 AI 记忆的技术,可将 1000 万个文档的向量存储从 31GB 内存压缩到 4GB,且搜索速度比最常用的 FAISS 更快。该技术让本地跑大模型并结合自有数据变得更容易。
正文
Google的研究找到了一种把 AI记忆大幅压缩的技术,让本地跑大模型 + 自己数据变得更容易了。
也就是说可以把 1000 万个文档 的向量存储,从 31GB 内存 压缩到只剩 4GB,而且搜索速度还比现在最常用的 FAISS 更快。
x.com/i/article/206071760398…在 X 查看被引用的帖子
来源:@AYi_AInotes · x.com