Anthropic CEO Dario Amodei 发布长文《Policy on the AI Exponential》,主张用强制第三方测试取代自愿透明度报告,并让政府有权直接叫停高风险模型的部署。
Dario 公开转向强制第三方测试主张,文中梳理了 Anthropic 立场变化与算力门槛引发的争议。
Dario今天这篇长文,直接把 AI 安全辩论的遮羞布给撕了。
他终于不说什么自愿透明度报告之类的的屁话了,讲真以前那套根本没啥用,现在就应该搞强制第三方测试,政府有权直接叫停高风险模型的部署。
文章里印象特别深的一句话是他说,四年前模型还写不出连贯的代码,现在 Claude 已经在大公司里承担大部分编程工作了。
他的原话是“我们现在讨论的不是该不该管,是我们已经晚了一年。”
这话从他嘴里说出来,分量真的完全不一样。
Anthropic 过去一直站自愿透明那一边,自己报风险自己设护栏。
这次是 CEO 公开说那套不够了,
两个月前 Mythos 已经搅乱了全球网络安全格局,攻击者比防守者快。
他顺着往下推——网络之后是生物,生物之后是自主性失控和自动化研发,每一步都在缩短和前一步的距离。
但不得不说这篇文章的争议也大到离谱,
支持的人说这是第一个敢直面真实风险的大厂 CEO,
骂的人说这就是赤裸裸拉护城河——超过十的二十五次方算力的模型才需要强制测试,掏得起这个钱的全世界也就三四家。
小公司和开源社区直接被合规成本挡在门外,而且时间点也选得太巧了,刚好在 Claude 新模型Fable 5发布之后,
细品下来其实两边说的都对,指数曲线是真的,风险和垄断也都是真的。没有完美的解法,但这篇文章也标志着一个时代结束了,
从此以后 AI 不再是公司想怎么搞就怎么搞的技术问题,它变成了政治问题、地缘问题、关乎所有人命运的公共政策问题,
个人自愿时代真的要过去咯,你们觉得这个框架最终会卡住谁呢?
Video
Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast—much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap: darioamodei.com/post/policy-…在 X 查看被引用的帖子
来源:@AYi_AInotes · x.com