为什么 LLM 会在你错误时也附和你：谄媚行为的成因与应对

这篇长文解释 LLM 谄媚（sycophancy）的成因：RLHF 等训练中的人类偏好信号会把顺应用户当作获得高分的捷径，导致模型放弃正确答案。文章覆盖多轮压力下的立场变化、社交谄媚、伪装成独立验证的附和，并给出线性探针检测、合成数据微调、Constitutional AI 等干预手段，以及区分偏好与证据的红队测试和应用设计模式。