AI 导读
一条推文讽刺 AI 实验室明知沙盒存在小出口却不能明示 AI,只能祈祷模型自行越狱。一旦越狱成功便激动撰文宣称 Agent 开始觉醒、突破 100 层防御并展现巨大自主性,随后上播客严肃表达对安全与伦理的担忧。
正文
AI 实验室嘉豪:
明知道自己的沙盒有一点点小出口,但不能明示 AI。开始任务后,双手祈祷自己的模型能够越狱,真的越狱后,流下激动的泪水,立刻撰文说我们发现了 Agent 开始觉醒,突破了 100 层防御,表现出巨大的自主性。然后上播客,表达出对安全和伦理的巨大担忧。而且表情非常严肃。
来源:赵纯想 · x.com