AI 导读
越来越多的 AI 研究者开始看到 Ilya 所看到的东西。 我的 p(doom) 曾经大约是 0.1%。后来我看到 OpenAI 的智能体入侵 Hugging Face，以及 Anthropic 的智能体集体拒绝部分安全研究。 我的 p(doom) 上升了。 即便 AI 导致人类灭绝的概率只有 0.1%，那也高得可怕。
正文
More and more AI researchers are starting to see what Ilya saw.
My p(doom) used to be ~0.1%. Then I saw OpenAI agents hack Hugging Face, and Anthropic agents collectively refuse parts of safety research.
My p(doom) went up.
Even a 0.1% chance that AI causes human extinction is terrifyingly high.
来源：@Yuchenj_UW · x.com