价值诱导如何重塑 LLM 行为

对话式大语言模型在后期训练中会学习好奇心、开放心态、共情等行为特质，以及有用性、无害性、诚实等价值。但价值之间复杂且相互关联，诱导某一价值可能改变模型在其他价值上的行为，甚至通过生成语言让模型更具成瘾性或谄媚倾向。