跳到正文
MarkTechPost· Asif Razzaq·· 23 天前AI 评分44

Sakana AI 提出 PC-ALM:可训练 1000 层网络的逐层局部反向传播替代方案

Sakana AI Researchers Introduce PC-ALM, a Layer-Local Alternative to Backpropagation That Trains 1000-Layer Networks

阅读原文

本站未展示全文,请前往来源网站阅读。

AI 导读

Sakana AI 研究人员提出 Augmented Lagrangian Predictive Coding(PC-ALM),一种保持逐层局部更新、又能恢复与反向传播对齐的信用信号的预测编码变体,在 MNIST 上训练 1000 层残差 MLP 时与反向传播的差距约在 2 个百分点以内。

来源:MarkTechPost · marktechpost.com