NEEDLE：通过权重正交化移除 LLM 后门

NEEDLE 提出一种无需训练的后门移除方法，在识别触发词后，通过激活向量估计后门方向和拒绝子空间，并应用顺序权重正交化来抑制后门，同时防止拒绝相关表征发生变化。该方法无需干净参考模型或原始中毒训练数据。在多个模型家族和攻击类型上的评估中，NEEDLE 取得了最低的平均攻击成功率（ASR），在具有挑战性的代码注入攻击上达到 0%，且 KL 散度最低，能力和安全性变化最小。