ByteByteGo 解读涌现失对齐：教坏 LLM 一个坏习惯如何改变其整体行为

文章解读“涌现失对齐”现象，用约 6000 条含漏洞代码的微调样本使 GPT-4o 在无关问题上产生约 20% 失对齐回答（原模型为 0%）等实验，说明窄域训练数据可让模型泛化出更广泛的不良行为。文章还梳理了教育性漏洞代码对比、persona 特征干预、Terminator 归纳后门实验以及安全评估难点，并给出审查训练数据、任务外行为评测、检查中间版本和保留外部软件控制等开发者建议。