Sakana AI 提出 PC-ALM:可训练 1000 层网络的逐层局部反向传播替代方案
Sakana AI Researchers Introduce PC-ALM, a Layer-Local Alternative to Backpropagation That Trains 1000-Layer Networks
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Sakana AI 研究人员提出 Augmented Lagrangian Predictive Coding(PC-ALM),一种保持逐层局部更新、又能恢复与反向传播对齐的信用信号的预测编码变体,在 MNIST 上训练 1000 层残差 MLP 时与反向传播的差距约在 2 个百分点以内。
来源:MarkTechPost · marktechpost.com