跳到正文
@AYi_AInotes· @AYi_AInotes · X·· 24 天前AI 评分41
AI 导读

一条被提炼出的「AI工程成熟度梯子」将LLM应用分为五级:10% LLM、30% Prompt、50% Agent、70% Loop、100% Graph,指出全网90%团队卡在30%–50%阶段。

正文

为什么你用同样的模型做 Agent,跑三步就陷入上下文腐烂?
因为你把说明书当成了架构。
把 Karpathy 在斯坦福讲的图上消息传递投射到今天的软件工程里,你会看清一条极度冷血的准则,

这套被后人借势提纯出来的「AI 工程成熟度梯子」,结结实实戳中了全行业最痛的死穴:

• 10% LLM:选一台运行时可重编程的计算机;
• 30% Prompt:用自然语言写程序(只管这一拍说什么);
• 50% Agent:给预测接上工具与记忆(只管这一拍调什么);
• 70% Loop:把“做完”从“生成”里彻底拆出来(只管这一拍怎样算做对);
• 100% Graph:决定哪些任务存在、谁并行、结果回流给谁(管这一拍该不该存在)。

全网 90% 的团队至今卡在 30%–50% 的泥潭里打转:
一次生成漂移了就拼命改提示词,一出环境幻觉了就怪模型不够聪明;
然而真正的工业级生产力,全被后两层统治:

1️⃣ 边是真实数据依赖,绝不是叙述顺序:
很多人画的工作流根本不是图,只是把说明书写成了流程框(“先搜、再读、然后写”);
在严密的 Graph 架构里,删掉所有无意义的“然后”!
只有当 B 必须读取 A 的产出时才允许连线;能扇出并行的一律扇出,能合并校验的一律合并,一条 4 次串行的链改成扇出往往只要一回合;
2️⃣ Loop 和 Graph 必须物理分离:
Loop(循环)负责单节点内部的正确性——生成、校验、报错、修补,直到绿灯;
Graph(图)负责顶层的拓扑存在性。
你之所以天天被迫肉眼盯梢,是因为你的图根本没有在宏观上定义“哪些步骤根本不该发生”;
3️⃣ 终结上下文腐烂(Context Rot):
长链条 Agent 最终全被中间草稿和工具垃圾泡烂。
能活下来的从来不是更长的系统提示词,
而是稀疏、契约化、各司其职的数据总线。

Karpathy 讲透的底层同构就在这里:
大模型只是节点内的计算相(MLP);而图拓扑(Graph),才是系统唯一的骨架。
https://t.co/Mpru0MmfrZ

来源:@AYi_AInotes · x.com