Sakana AI 推出 PC-ALM:可训练千层网络的逐层局部学习方案,替代反向传播
Sakana AI 研究人员 Jeffrey Seely 与 Julian Gould 提出增广拉格朗日预测编码(PC-ALM),作为反向传播的局部学习替代方案。通过为每层约束附加拉格朗日乘子,PC-ALM 在保留预测编码逐层局部更新的同时,可在线性网络中精确还原反向传播梯度。在推理预算 T=2L 下,其表现与 BP 在8到128的宽度和深度范围内持平;在参考单元中将梯度余弦相似度从0.604提升至0.909;在 MNIST 上训练1000层残差MLP,与反向传播的差距约在2个百分点以内。MIT 许可的 JAX 代码已公开。
说明:本站展示中文整理摘要,便于快速阅读;完整内容和版权归原站所有。