AI 导读
FaceMind 团队用 100 种语言、四大核心任务的实验发现,在语义完全不变的前提下,使用预训练语料中出现频率更高的表达方式,无论 Prompting 还是 Fine-tuning,模型表现都会显著提升。这一规律被作者称为 Adam's Law 文本频率定律,作者认为它为数据工程的“质量-规模-难度”铁三角补上了频率这一维度。
正文
别特么给AI拽“高级词汇”“冷门词”了!!
大家还在拼命把Prompt写得文雅、专业、结构严密,以为这样模型就会更听话、输出更准,结果正好相反。
FaceMind团队用100种语言、四大核心任务的实验直接证明:语义完全不变的前提下,用预训练语料里出现频率更高的表达方式,不管是Prompting还是Fine-tuning,模型表现都会显著提升。
这就是Adam’s Law——文本频率定律。
它把当前数据工程的“质量-规模-难度”铁三角,直接补上了缺失的第四维度:频率。
高频表达不是“简化”,而是让模型在它最熟悉的概率空间里干活,效果直接起飞。
下次写Prompt的时候,别再追求多高级、多优雅了,先问自己一句:这句话模型在训练语料里见过多少次?
x.com/i/article/204426464568…在 X 查看被引用的帖子
来源:@berryxia · x.com