面向自我改进的 Harness Engineering
Harness Engineering for Self-Improvement
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
递归自我改进(RSI)概念可追溯至 I. J. Good(1965)提出的"超智能机器",Yudkowsky(2008)将其定义为 AI 用当前智能改进产生自身智能的认知机制。在现代 AI 中,这一反馈回路既可能表现为模型直接重写自身权重,也可能更广泛地体现为模型改进训练流程与部署系统,进而催生性能更强的后继模型。前沿实验室(Anthropic、OpenAI)的研究开发速度已被证明大幅加快。
来源:Lilian Weng's Log · lilianweng.github.io