为什么你的 RAG 系统上限取决于它的嵌入模型

RAG 系统的检索质量由嵌入模型决定，语言模型再强也无法修复糟糕的检索。嵌入模型把文本转成向量并按语义相近度排序，例如把“yearly plan”匹配到“annual subscription”，但可能让“45 天前购买的订阅能否退款”这类问题检索到错误片段。文章还讨论了 top-k 检索、非对称检索、商用 API 与本地模型的取舍，以及 Matryoshka 嵌入对向量维度的控制。