跳到正文
qlabs.sh(经 Hacker News)·· 2 小时前AI 评分52

Q Labs Research 提出 Dust:无需反向传播的 Transformer 预训练零阶方法

Dust:无需反向传播的Transformer预训练

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Q Labs Research 提出 Dust,一个在 Transformer 语言模型预训练上可与反向传播竞争的零阶优化方法,通过对每个 token 独立扰动激活(节点扰动),使一次前向传播即可并行评估整个虚拟种群。

来源:qlabs.sh(经 Hacker News) · qlabs.sh