AI 导读
用 AI 代理完成整套复杂任务后发现,流程中最耗时的不是思考决策,而是不断修正 AI 犯的低级错误。这种修正成本往往是隐性的,难以预判 AI 在哪个环节翻车,也难建立可靠的验证机制。当工具自主性提高,人的角色正从执行者变成验证者,而验证本身需要极高的判断力。
正文
奥特曼说的这些话,这个现象其实比很多人想象的更值得警惕。
用 AI 代理完成了一整套复杂任务,结果发现整个流程里最耗时的部分,竟然不是思考和决策,而是不断「修正 AI 犯的低级错误」。
这听起来有点反直觉。
我们通常以为 AI 能帮我们省掉大量重复劳动,但当代理能力变强之后,新的问题出现了——我们开始花更多时间去监督、纠正和兜底。
真正棘手的地方在于,这种修正成本往往是隐性的。
你很难提前预判 AI会在哪个环节突然翻车,也很难建立一套可靠的验证机制。
久而久之,很多人其实不是在用 AI 提升效率,而是在用自己的注意力去填补 AI的不可靠性。
这其实暴露了一个更深层的问题:当工具的自主性提高后,人的角色正在从「执行者」变成「验证者」。
而验证这件事,本身需要极高的判断力和系统性思维。
“Discovery may become the job of AI. Understanding remains ours.” Sam Altman says biology may be too complex for humans to discover alone. A smarter system could solve what we can’t, then explain it in a way we can understand. Video在 X 查看被引用的帖子
来源:@berryxia · x.com