跳到正文
AYi· @AYi_AInotes · X·· 19 小时前精选AI 评分73
AI 导读

Anthropic 发布官方研究,称数月来显著削弱了针对 Claude 的蒸馏攻击,并点名智谱开发 GLM-5.3 时违规使用 Claude、月之暗面 Kimi 涉违规转储。

推荐理由

作者转述 Anthropic 防蒸馏研究的关键数据与三项防御手段,可帮助读者理解思维链保护对行业竞争格局的影响。

正文

Anthropic 这篇官方檄文可以说是彻底撕破脸了,
直接公开点名智谱和月之暗面,把大模型圈工业级偷思维链的黑产老底全掀了。

A社刚发了今年火药味最浓的一篇官方研究,
直接公开点名智谱和月之暗面,把大模型行业暗流涌动的工业级蒸馏偷家产业链掀到了台面上。

很多人一直在好奇,为什么海外大厂砸几十亿美金苦练的顶级推理能力,一些团队只要花几分之一的时间和成本就能迅速追平。

Anthropic 这次拿出的数据极其吓人,
他们发现有大量黑产和机构控制着几十万个虚假账号,
通过代理网络疯狂给 Claude 发送数百万次请求,
核心目标根本不是偷答案,而是偷 Claude 在输出前的完整思维链。

数据表明,拿完整的推理思考过程去训小模型,
代码评测能直接冲到 80.4%,而只拿精简答案去训只有 71.8%,这十个点的差距就是大模型最值钱的核心资产。

为了防住这种工业级抽血,Anthropic 这次直接上了三套极其绝情的硬手段:

一是锁死推理上下文,新 API 账号彻底禁止篡改对话历史,把思维链只留给本机构;
二是把防蒸馏的安全分类器直接拉到了防生物武器的同等级别,误伤率低于千分之一;
三是把被拦截的恶意请求照样扣费,并在几小时内封掉了几万个洗白账号。

这一套组合拳打下来,官方统计直接把被偷走的数据量砍掉了 90% 到 99%,为此 Anthropic 宁可主动拒掉数万亿 Token 的真金白银收入。

说白了,以前大模型赛道表面拼的是参数和跑分,暗地里拼的是谁能更隐蔽地把前沿大模型当免费老师来抽血,

当思维链的输血管道被巨头彻底焊死,真正拼底层原生内功的淘汰赛也许才刚刚开始啊~~

引用Anthropic@AnthropicAI
Over the last few months, we’ve made significant progress in reducing the effectiveness of distillation attacks against Claude. In this post, we explain how: https://www.anthropic.com/research/distillation-defenses
在 X 查看被引用的帖子

来源:AYi · x.com