Algoritmo de retro propagación
Concepto
Conocido también por su denominación en inglés, backpropagation, este algoritmo es de uso muy extendido en las aplicaciones de redes neurales. Se le identifica como parte de los procesos de aprendizaje supervisados, pues requiere que la red disponga de información para parte de ella, usualmente en las entradas y salidas. El algoritmo es iterativo alrededor de los pesos, pues la intención es ajustarlos en cada unidad de tal manera que se reduzca el error entre la salida deseada y la real. De ahí que la variable principal sea conocida como error derivado de los pesos, EW (por las siglas en inglés).
Ejemplo sobre una red XOR
Un ejemplo base cómodo para la explicación del algoritmo de retro propagación es el de una red lógica XOR, también conocida como de disyunción exclusiva. Le corresponde la siguiente tabla de valor para la variable de entrada x=(x1,x2) y la salida y.
| Entrada | Salida | Descripción | |
| x1 | x2 | y=x1 XOR x2 | La salida ALTA (HIGH) (1) resulta si una (y solo una) de las entradas es ALTA (HIGH) (1). Si ambas entradas son BAJA (LOW) (0), o ambas son ALTA (HIGH) (1), la salida es BAJA (LOW) (0). |
| 0 | 0 | 0 | |
| 0 | 1 | 1 | |
| 1 | 0 | 1 | |
| 1 | 1 | 0 | |
Una red neural con información base para esta operación algebraica, se representa de la siguiente manera.
La información incluye los pesos y los umbrales, así como la aceptación de una función de transferencia tipo sigma o sigmoideo. Las entradas (x1,x2) así como la salida y deben corresponder a los valores de la tabla de verdad. Así por ejemplo, para la entrada (1,1) la salida debe ser 1. Siguiendo progresivamente en la red:
- Para el primer nodo de la capa intermedia, la abscisa en la función de transferencia es 1*(-11)+1*(10)-6=-7. Ello da una salida de transferencia de aproximadamente 0.
- Para el segundo nodo de la capa intermedia, la abscisa es 1*(13)+1*(-13)-7=-7. Lo cual, en la función de transferencia se tiene un valor de aproximadamente igual a 0.
- Repitiendo la operación para la capa final, la abscisa es 0*13+0*13-7=-7, lo que según la función de transferencia da un valor de y de aproximadamente 0, correspondiente al de la tabla de verdad.
Puede repetirse el proceso para (0,0), (0,1), (1,0) a fin de comprobar los resultados.
La regla delta. Ejemplos. Productividad en la construcción.