阿里 Qwen 4 的 RSI 理念是让模型理解训练研发部署后,在灰度测试中依据用户满意度对不满意场景重新生成数据、做权重纠偏,几十次循环后评分持续上涨。作者认为真正的难点在用户群体质量:Qwen 灰度受测群体与 Claude 受测群体的差异会把两个模型的 RSI 引向不同方向,强模型虹吸效应下差距只会越来越大。
看了一下阿里 Qwen 4 關於模型自進化 RSI 的理念。模型首先理解了大模型的訓練、研發和部署,然後,在灰度測試中,不斷讓用戶使用它,用可觀測性來評價用戶滿意度。對於用戶不滿意的場景(相關輪次的對話),進行針對性數據重生成。用“滿意”的數據進行權重上的糾偏。在幾十次循環中,將所有的“不滿意”,慢慢地抹平。評分也在不斷地上漲。
這樣一個平易近人的理念,對 Agent Infra 的挑戰巨大無比。但這不是最難的。
難在用戶群體。新手小白的“不滿意”和技術素質極高的老師傅的“不滿意”都是不滿意,但是不滿意之後的提示詞則完全不同,糾偏的方向也完全不同、糾偏所用提示詞中所“流露”出來的人類智慧、軟件架構經驗和價值,也大不相同。這就不得不面對一個問題:Qwen 的灰度受測群體的質量,和 Claude 受測群體的質量,之間的差異,會將兩個模型的 RSI 引向兩個方向。
這裡面最恐怖的就是贏者通吃的“強模型虹吸效應”。模型越強,吸引到的開發者的智力密度越大,RSI 時所能捕獲、榨取的人類智慧就越珍貴。一個是從 Qoder 用戶或採買數據獲得數據,一個是 Claude Code 核心用戶身上獲取數據。
從這一點來說,差距不會越來越小,只會越來越大。這是符合物理的。強者愈強,弱者愈弱。
前段時間,有人想買我的本機 Claude Code 的全部脫敏後數據,開價不菲。甚至用 PDF 演示了一個本地數據脫敏上傳工具。也許真實使用數據的採集收購,背後的大買家,就是需要擺脫虹吸效應的訓練廠商。但本地數據裡面沒有 COT,只能說是飲鴆止渴。
如何破局?毫無頭緒。
来源:赵纯想 · x.com