Anthropic 强化针对蒸馏攻击的防御,称蒸馏者可提取的推理数据减少约 90% 至 99%
Strengthening our defenses against distillation attacks
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Anthropic 发布博客称其新防御方法使蒸馏者采集的数据量减少约 90% 至 99%,新分类器上线后蒸馏者可提取的推理 token 降至原先的 1/10 到 1/100。
推荐理由
Anthropic 官方披露反蒸馏防御的具体做法与实测数据,读者可以借此了解蒸馏攻击的运作方式和行业防御成本。
来源:Anthropic Newsroom · anthropic.com