AI 导读
有开发者把 Openclaw/Hermes 这类 agent 当作病人来诊断,认为反复出现的 bug 都有对应的医学名称,比如常说的 AI 幻觉在医学上叫虚构症,是大脑在记忆缺口处自行编造并深信不疑。
正文
很喜欢这个视角。
把 AI 出问题这件事,从骂模型切换成了扫描哪个器官坏了。
记忆、行动、自检,每个 bug 都能定位到具体位置。
里面提到 AI 幻觉在医学上其实叫虚构症,大脑在记忆缺口处自己编故事还深信不疑,比幻觉精确多了。
对做 agent 的人最有用的转换可能是,遇到问题不再是往 prompt 里堆规则,而是看具体哪个组件出了问题,针对性地补。
不过最想说的还是耐心这件事。
现在 skill 也好、agent 也好,GitHub 上一搜一大把,复制粘贴就能跑。
但直接拿来用,永远是别人的工作流。
我自己搭 agent 和做 skill, 每次前前后后得调好多轮,才慢慢摸清它在我这个场景下会在哪里幻觉、哪里偷懒、哪里得喂真实资料才不会瞎编。
那种峰回路转的瞬间攒够了,它才真正变成你的东西。
skill 不是一蹴而就的,agent 也不是。
>started treating my Openclaw/Hermes like patients. >the bugs that kept coming back all had real medical names. take the one everyone calls "AI hallucination." medically it's confabulation. >now i scan for the organ that failed. gbrain handles memory. OpenClaw approvals handle actions. trajectory bundles handle self-check. >a healthier agent isn't a smarter brain. it's a more complete body. >a few weeks in, you stop blaming "the model." you find the broken organ and patch it. Video在 X 查看被引用的帖子
来源:@frxiaobei · x.com