通过深度低秩残差蒸馏锁定预训练权重
Locking Pretrained Weights via Deep Low-Rank Residual Distillation
阅读原文
本站未展示全文，请前往来源网站阅读。
AI 导读
研究提出深度低秩残差蒸馏方法，用于锁定预训练语言模型权重，防止其被未经授权地微调或改造。该方法针对开放权重模型易被适配滥用的问题，在保留模型原有能力的同时抵御下游修改。
来源：Apple Machine Learning Research · machinelearning.apple.com