Jeremy Howard 谈如何减缓递归式 AI 自我改进：顶级实验室应禁用自家最强模型

Jeremy Howard 提出减缓递归式 AI 自我改进的方案：排名第一的实验室必须承诺不用自家最强模型研究前沿 AI，但其他人应能访问该模型，这样前沿就不会推进，还能避免危险的力量失衡。他批评 Anthropic 作为当前顶级实验室反其道而行，允许自己用最强模型做前沿 AI 研究，并称会破坏其他尝试者。Howard 强调他本人并不主张放缓，而是认为应尽可能开放和民主化。