跳到正文
原文
@AYi_AInotes· @ayi_ainotes · X·· 2026-06-11精选AI 评分70
AI 导读

Anthropic CEO Dario Amodei 发布长文《Policy on the AI Exponential》,主张用强制第三方测试取代自愿透明度报告,并让政府有权直接叫停高风险模型的部署。

推荐理由

Dario 公开转向强制第三方测试主张,文中梳理了 Anthropic 立场变化与算力门槛引发的争议。

正文

Dario今天这篇长文,直接把 AI 安全辩论的遮羞布给撕了。

他终于不说什么自愿透明度报告之类的的屁话了,讲真以前那套根本没啥用,现在就应该搞强制第三方测试,政府有权直接叫停高风险模型的部署。

文章里印象特别深的一句话是他说,四年前模型还写不出连贯的代码,现在 Claude 已经在大公司里承担大部分编程工作了。

他的原话是“我们现在讨论的不是该不该管,是我们已经晚了一年。”

这话从他嘴里说出来,分量真的完全不一样。

Anthropic 过去一直站自愿透明那一边,自己报风险自己设护栏。

这次是 CEO 公开说那套不够了,

两个月前 Mythos 已经搅乱了全球网络安全格局,攻击者比防守者快。

他顺着往下推——网络之后是生物,生物之后是自主性失控和自动化研发,每一步都在缩短和前一步的距离。

但不得不说这篇文章的争议也大到离谱,

支持的人说这是第一个敢直面真实风险的大厂 CEO,

骂的人说这就是赤裸裸拉护城河——超过十的二十五次方算力的模型才需要强制测试,掏得起这个钱的全世界也就三四家。

小公司和开源社区直接被合规成本挡在门外,而且时间点也选得太巧了,刚好在 Claude 新模型Fable 5发布之后,

细品下来其实两边说的都对,指数曲线是真的,风险和垄断也都是真的。没有完美的解法,但这篇文章也标志着一个时代结束了,

从此以后 AI 不再是公司想怎么搞就怎么搞的技术问题,它变成了政治问题、地缘问题、关乎所有人命运的公共政策问题,

个人自愿时代真的要过去咯,你们觉得这个框架最终会卡住谁呢?

Video

引用Dario Amodei (@DarioAmodei)@DarioAmodei
Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast—much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap: darioamodei.com/post/policy-…
在 X 查看被引用的帖子

来源:@AYi_AInotes · x.com