PC-ALM (Código Predictivo Lagrangiano Aumentado) es un método de entrenamiento que permite entrenar redes neuronales residuales de hasta 1000 capas sin utilizar backpropagación. A diferencia del aprendizaje profundo estándar, que depende de la sincronización estricta de pasos hacia adelante y hacia atrás, PC-ALM sustituye esta dinámica por sistemas dinámicos locales en cada capa. Este enfoque distribuye la supervisión credit a través de la red mediante acoplamientos difusivos, eliminando la necesidad de coordinación temporal global.
El método se basa en la teoría del código predictivo, extendiéndola con neuronas duales (multiplicadores de Lagrange) que actúan como controladores de retroalimentación PI. En el caso límite de redes lineales, estas neuronas duales convergen a las señales de crédito exactas de la backpropagación, utilizando únicamente cómputo local. Los experimentos demuestran que PC-ALM supera la degradación de señales típica del código predictivo estándar en redes profundas y de ancho estrecho, manteniendo un presupuesto de cómputo proporcional a la profundidad de la red.
Esta investigación tiene un doble objetivo: comprender cómo los sistemas distribuidos, como el cerebro, resuelven el problema de asignación de crédito sin backpropagación, y ofrecer herramientas para el aprendizaje profundo eficiente en hardware neuromórfico, donde la simulación de sistemas dinámicos es más económica que en GPUs. PC-ALM representa una alternativa viable para redes profundas donde la comunicación entre capas es limitada o la latencia es un factor crítico.