AI 自我改进的递归临界性:论文提出 R_AI 判据
Recursive Criticality of AI Self-Improvement
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
一项研究提出递归再生数 R_AI,用于判断 AI 研发反馈是否会在开发周期中自我放大:R_AI>1 时改进效果跨周期累积,R_AI<1 时则逐周期衰减。该转变取决于 AI 研发反馈回路的结构,而非某个特定的模型能力水平,因此系统可能在加速显现之前就已进入自我放大状态。模型还显示,跨机构共享的改进可使整个研发生态具备自我放大性,即便单个参与者并非如此。
来源:Hugging Face Daily Papers · arxiv.org