ByteByteGo 图解 LLM 的记忆机制：模型本身不会记住对话

ByteByteGo 发文解释 LLM 为何在新会话中忘记此前对话：模型本身没有持久记忆，记忆错觉由围绕模型的应用通过重建上下文实现。文章区分训练记忆、上下文窗口工作记忆和外部持久记忆，分析上下文填满后的处理方式与长对话成本，并介绍滑窗、对话摘要、结构化实体抽取、向量库检索和长期用户画像等扩展记忆的技术。