BACK-PROPAGATION: UN ALGORITMO DE ENTRENAMIENTO PARA REDES NEURONALES

Transcripción

1 BACK-PROPAGATION: UN ALGORITMO DE ENTRENAMIENTO PARA REDES NEURONALES Paul Acquatella B. Universidad Simón Bolívar, Valle de Sartenejas, Caracas, Venezuela. Resumen Este trabajo presenta una breve introducción al entrenamiento de redes neuronales multicapas bajo el algoritmo de Back-Propagation basado en el descenso de gradiente y de la regla delta, junto con su implementación numérica. Se simula una red en el entorno MATLAB, entrenándola para resolver un problema de reconocimiento de caracteres y el conocido problema del XOR. Los resultados obtenidos resultan de gran interés y muestran excelente desempeño. Sio el algoritmo una aproximador de funciones, este puede ser utilizado en muchos problemas donde se requiera la identificación de sistemas, clasificación de patrones, etc. Palabras claves: Redes Neuronales, Perceptrón multicapas, entrenamiento, reconocimiento de patrones, backpropagation, regla delta, descenso de gradiente. I. INTRODUCCIÓN El interés por la investigación en redes multicapas parte de los trabajos de Rosenblatt (1962) sobre Perceptrones y los de Widrow y sus alumnos sobre MADALINES (1962). Sin embargo, como hemos visto, el Perceptrón simple es capaz de resolver problemas de clasificación e implementar funciones lógicas, como por ejemplo, la función OR, pero es incapaz de implementar la función lógica XOR. Sobre estas limitaciones, Minsky y Papert (1969) publicaron un libro titulado Perceptrons que supuso el abandono por parte de muchos científicos de la investigación en redes neuronales, pues no se encontraba un algoritmo de aprizaje capaz de implementar funciones de este tipo [4]. Las limitaciones de las redes de una sola capa hicieron que se plantease la necesidad de implementar redes con más número de capas, es decir, introducir capas ocultas entre la capa de entrada y la capa de salida de manera que se pudiese implementar cualquier función con el grado de precisión deseado. Por ejemplo, con un Perceptrón con dos capas se puede implementar la función lógica XOR, como vimos en el trabajo anterior en la implementación de MADALINES. Al tener estas redes una topología más complicada, también se complicó la forma para encontrar los pesos correctos durante el aprizaje de las mismas, ya que este proceso es el que decide qué características de los patrones de entrada son representadas por la capa oculta de neuronas. En 1986 se abrió un nuevo panorama en el campo de las redes neuronales con el redescubrimiento por parte de Rumerlhard, Hinton y Williams del algoritmo de retro propagación (referido en este artículo como backpropagation). La idea básica de backpropagation fue descubierta por Werbos en su tesis doctoral en El algoritmo de backpropagation es un método eficiente para el entrenamiento de un Perceptrón Multicapa como se prete demostrar con este artículo. Se puede decir que puso fin al pesimismo que había surgido en 1969 con la aparición del libro de Minsky y Papert sobre el campo de las redes neuronales [3]. En la sección II de este artículo se explica brevemente la estructura de la red multicapa y sus conceptos básicos. En la sección III se explican el algoritmo de backpropagation. Finalmente, en la sección IV se realiza una implementación práctica del algoritmo estudiado para un problema de reconocimiento de patrones, y para la discriminación del XOR. II. ESTRUCTURA DE LAS REDES El Perceptrón multicapa es una red de alimentación hacia adelante (feed-forward) compuesta por una capa de unidades de entrada (sensores), otra capa de unidades de salida y un número determinado de capas intermedias de unidades de proceso, también llamadas capas ocultas porque no tienen conexiones con el exterior. Cada sensor de entrada está conectado con las unidades de la segunda capa, y

2 cada unidad de proceso de la segunda capa está conectada con las unidades de la primera capa y con las unidades de la tercera capa, así sucesivamente. Un ejemplo de esta arquitectura es mostrado en la Figura 1. donde el conjunto incluye todas las neuronas en la capa de salida de la red. Denotando como el número total de patrones de aprizaje contenidos en el conjunto de entrenamiento, el error cuadrático medio de energía es obtenido sumando sobre todos los patrones y luego normalizando sobre el conjunto de patrones como sigue: 1 (3) Figura 1. Perceptrón multicapa Con esta red se preter establecer una correspondencia entre un conjunto de entrada y un conjunto de salidas deseadas, de manera que la red pueda ser usada como un aproximador general de cualquier función. El vector patrón de entrada, aumentado por un sesgo fijo, es representado como,,,. Este vector de entrada es ajustado por un vector,,, para formar la respuesta análoga. El peso corresponde al sesgo (bias). La salida obtenida para la primera capa es la entrada de la capa subsiguiente, y así sucesivamente a través de las capas ocultas hasta llegar a la capa de salida. Las respuestas análogas de cada capa son evaluadas a través de una función de activación sigmoidea (como por ejemplo, la tangente hiperbólica) para resultar en una respuesta acotada. III. ALGORITMO BACK-PROPAGATION El error a la salida de la neurona (sio esta una neurona en la capa de salida) en la iteración (es decir, en la presentación del -ésimo patrón) es definido por: (1) Se define el valor instantáneo de energía de error para la neurona como. De igual forma, el valor instantáneo de la energía de error total es obtenido sumando todos los en la capa de salida de la red; estas son las solas neuronas visibles para las cuales se puede calcular el error directamente. Podemos entonces escribir: 1 2 (2) La energía de error instantánea y la energía de error media son función de los parámetros libres (los pesos sinápticos y niveles de sesgo) de la red. Para un conjunto de entrenamiento dado, representa la función de costo como una medida del desempeño del aprizaje. El objetivo del proceso de aprizaje es ajustar los parámetros libres de la red para minimizar. Para lograr esto se usa una aproximación similar a la usada para la derivación del algoritmo de LMS. Específicamente, se considera un método simple de entrenamiento en el cual los pesos son ajustados patrón por patrón hasta que una época (una presentación completa de los patrones de entrenamiento) haya sido completada. Los ajustes de pesos son hechos en concordancia con los errores respectivos calculados para cada patrón presentado a la red. El campo local inducido producido a la entrada de la función de activación de la neurona es por lo tanto: (4) donde es el número total de entradas (sin incluir el sesgo) aplicadas a la neurona. El peso sináptico (correspondiente a la entrada fija 1) equivale al sesgo aplicado a la neurona. Por e, la salida de la función de activación que aparece a la salida de la neurona en la iteración viene dada por: (5) De manera similar al algoritmo LMS, el algoritmo Back-Propagation aplica una corrección al peso sinaptico, que es proporcional a la derivada parcial. De acuerdo a la regla de la cadena, se puede expresar este gradiente como:

3 (6) La derivada parcial representa un factor de sensibilidad, determinando la dirección de búsqueda en el espacio de pesos para los pesos sinápticos. Diferenciando ambos lados de la ecuación (2) con respecto a, se obtiene: (7) Diferenciando ambos lados de la ecuación (1) con respecto a, se obtiene: 1 (8) Ahora, diferenciando la ecuación (5) con respecto a, se obtiene: (9) donde el uso de prima significa diferenciación con respecto al argumento. Finalmente, diferenciando la ecuación (4) con respecto a, se obtiene: (10) Usando las ecuaciones de la (7) a la (10) se obtiene: (11) La corrección aplicada a es definida por la regla delta: (12) donde es el parámetro de aprizaje del algoritmo de backpropagation. El uso del signo negativo en la ecuación (12) representa el descenso de gradiente en el espacio de pesos. En consecuencia, el uso de la ecuación (11) en la (12) resulta en: (13) donde el gradiente local es definido por: (14) De las ecuaciones (13) y (14) se puede notar que un factor clave involucrado en el cálculo del ajuste de pesos es la señal de error a la salida de la neurona. En este contexto podemos identificar dos casos distintos, depio de en donde es localizada la neurona. En el caso 1, la neurona es una salida. Este caso es simple de tratar ya que cada salida de la red es comparada con una salida deseada, obteniéndose fácilmente el error asociado a la salida. En el caso 2, la neurona se encuentra en una capa oculta. Aunque las neuronas de las capas ocultas no son directamente accesibles, ellas comparten responsabilidad del error asociado a la salida de la red. La cuestión es cómo penalizar o compensar las neuronas ocultas por su responsabilidad en el error. Este es el problema de la asignación de créditos, resuelto de forma elegante retro propagando el error por la red. Caso 1 Neurona está en la capa de salida Cuando la neurona es localizada en la capa de salida de la red, esta es comparada con la salida deseada para obtener directamente el error mediante la ecuación (1). Tenio este cálculo realizado, se calcula el gradiente local empleando la ecuación (14). Caso 2 Neurona está en una capa oculta Cuando la neurona es localizada en una capa oculta de la red, no existe una salida deseada para esa neurona. El error de una neurona oculta debe ser obtenido recursivamente en términos de los errores de las neuronas a las cuales está conectada. En este caso, luego de desarrollar el gradiente local en función de estos errores, se obtiene que: (15) Finalmente, a continuación se presenta el algoritmo de Back-Propagation para un conjunto de entrenamiento, dado: 1. Inicialización. Los pesos y las funciones de activación son inicializados.

4 2. Presentación del conjunto de entrenamiento. Se presenta una época completa del conjunto de patrones de entrenamiento a la red. Para cada patrón del conjunto de entrenamiento, ordenados de alguna forma, ejecutar las secuencias de cálculo hacia delante y hacia atrás como descrito en los puntos 3 y 4, respectivamente. 3. Cálculo hacia delante. Sea el patrón de entrenamiento de la época por,, con el vector de entrada aplicado a la capa de entrada de la red y el vector de salidas deseadas presentado al final de la red en la capa de salida. Calcular los campos locales inducidos y salidas de las funciones de activación de la red procedio de la capa de entrada, capa por capa, hasta la capa de salida por toda la red. El campo local inducido para la neurona en la capa es: (16) donde es la salida de la función de activación de la neurona en la capa anterior 1 en la iteración y es el peso sináptico de la neurona en la capa correspondiente a la neurona en la capa 1. Para 0, se tiene que = +1 y es el sesgo aplicado a la neurona en la capa. Asumio el empleo de una función sigmoidea, la salida de la neurona en la capa es: (17) Si la neurona es de la primera capa oculta (es decir, 1): (18) donde es el -ésimo elemento del patrón de entrada. Si la neurona es de la capa de salida (es decir, ): (19) Se calcula el error en la salida: (20) donde es el -ésimo elemento del vector de salida deseada. 4. Cálculo hacia atrás. Calcular los gradientes locales de la red, definidos por: (21) para la neurona en la capa de salida, y (22) para la neurona en la capa oculta, donde el uso de prima significa diferenciación con respecto al argumento. Se ajustan los pesos sinápticos de la red en la capa según la regla delta generalizada: 1 1 (23) 1 donde es el parámetro de aprizaje y es la constante de momento del algoritmo. 5. Iteración. Iterar los cálculos hacia delante y hacia atrás bajo los puntos 3 y 4 presentando nuevas épocas de patrones de entrenamiento a la red hasta que algún criterio de convergencia sea alcanzado. IV. APLICACIÓN Y RESULTADOS DE SIMULACIÓN Para simular el funcionamiento de una red multicapas entrenada mediante el algoritmo Backpropagation se plantean los dos problemas siguientes: A. OR EXCLUSIVO (XOR) Se plantea la resolución del muy conocido problema del XOR, cuya resolución no es posible con un Perceptrón simple. El XOR consiste en un operador lógico con la siguiente descripción para dos entradas binarias: A B A XOR B Figura 2. XOR Desarrollando el algoritmo Back-Propagation bajo el ambiente MATLAB se valida el funcionamiento del entrenamiento para este problema. Se entrena una red con una capa oculta de 3 neuronas. La red consiste entonces en una arquitectura de 2 entradas, 2 neuronas en la capa oculta y 1 salida (red 231). La entrada y salida deseada son presentado como: donde:

5 Es decir, la red entrenada discriminará dos clases bipolares depio de la entrada dada. La salida de la red se considera de una clase u otra depio de si su valor es próximo a +1 o a -1. El algoritmo converge con una tolerancia de error del orden de 110. En las figuras 3 y 4 se muestran las curvas de la convergencia del error de dos corridas para 0,2 y 0,8. En este caso, el algoritmo converge en 47 y 41 épocas con errores cuadráticos medios de y respectivamente. En la figura 5 se puede notar que disminuyo el parámetro de aprizaje y la constante del momento ( 0,1 y 0,1) el algoritmo tarda más tiempo en converger (491 épocas). Figura 5. Convergencia., y, B. RECONOCIMIENTO DE CARACTERES Se plantea un problema de reconocimiento de caracteres con la siguiente descripción: Dado un panel de entrada compuesto por una matriz de 75 puntos, se consideran tres clases diferentes donde se preten clasificar las muestras que se introducen. Los patrones de entrenamiento correspondientes a cada clase son los caracteres de los números 1, 2 y 3 como se muestra en la Figura 5. Figura 3. Convergencia., y, Figura 6. Representación grafica de los patrones de entrenamiento Cuando a la entrada se le presente una muestra diferente a la de los patrones correctos, el sistema presentara a su salida la información decodificada de la clase a la que pertenece la muestra, o la clase a la cual mejor se aproxima. La red neuronal dispone de 35 entradas que corresponden a las posiciones enumeradas en la matriz de la Figura 6. El valor de cada entrada puede ser 1 si la posición es blanca y (1 si la posición es negra. Por otro lado, se dispone de 3 salidas, una por cada clase. Figura 4. Convergencia., y,

6 Figura 7. Posiciones enumeradas de los patrones de entrenamiento El problema puede ser resuelto con menos neuronas en la capa oculta. En la figura 9 se muestra los resultados con 4 neuronas en la capa oculta (sio la estructura de la red 3543), con para 0,2 y 0,8. Es de notar que con la nueva configuración el aprizaje ocurre mucho más rápido, obteniéndose convergencia en 7 épocas con un error cuadrático medio de Con el algoritmo Back-Propagation desarrollado bajo el ambiente MATLAB se valida el funcionamiento del entrenamiento para este problema. Se entrena una red con una capa oculta de 10 neuronas. La red consiste entonces en una arquitectura de 35 entradas, 10 neuronas en la capa oculta y 3 salidas (red 35103). La entrada y salida deseada son presentado como: donde: Es decir, la red entrenada discriminará las tres clases depio de la entrada dada. La salida de la red se considera de una clase u otra depio de si su valor es próximo a +1 o a -1. El algoritmo converge con una tolerancia de error del orden de 110. En la figura 8 se muestra la curva de la convergencia del error para 0,2 y 0,2. En este caso, el algoritmo converge en 85 épocas con un error cuadrático medio de Figura 9. Convergencia., y, De la misma manera, cuando se introduce una muestra con error en un punto, la red clasifica perfectamente dicha muestra en la clase correcta. V. CONCLUSIONES Basado en descenso de gradiente y en la regla delta, el algoritmo de backpropagation fue desarrollado con la motivación de entrenar redes multicapas para la aproximación general de funciones partio del hecho de realimentar el error en la estructura de la red para un mejor ajuste de pesos. Los resultados obtenidos resultan de gran interés y muestran excelente desempeño. Sio el algoritmo una aproximador de funciones, este puede ser utilizado en muchos problemas donde se requiera la identificación de sistemas, clasificación de patrones, etc. VI. REFERENCIAS Figura 8. Convergencia., y, [1] Rosemblatt, F., 1962, Principles of Neurodynamics: Perceptrons and the Theory of Brain Mechanisms, Washington, DC: Spartan. [2] Widrow, B. and Hoff, M. E., Jr. 1960, Adapting switching circuits, in 1960 IRE WESCON Convention Record, Part 4, New York: IRE, pp [3] P. M. Lewis II y C.L. Coates, Threshold Logic. New York: John Wiley and Sons, [4] Daniel Graupe. Principles of artificial neural networks. 2 nd Edition, World Scientific, 2007.

7 [Programa: backpropagation.m] %Algoritmo de Entrenamiento de BACKPROPAGATION para Redes Neuronales %por Paul Acquatella B. %Creado: 27 Enero 2009 function entrenamiento = backpropagation(x,d,l,rate,alfa,dmse) %% 1. Inicialización Y Cálculo de Parámetros %Parámetros del algoritmo mse = Inf; epoch = 1; %Asumio Pesos Iniciales Malos %Se calculan los tamaños respectivos de las matrices [N,P] = size(x); %Numero de Patrones P y Entradas N [Q,Pd] = size(d); %Numero de Patrones P y Salidas Q depth = length(l); %Profundidad de la red - nro capas %Inicializar Matriz de Pesos para cada capa en el rango [-1,1] W = cell(1,depth-1); %Pre-alocacion de la matriz de pesos for m = 1:depth-2 W{1,m} = [-1+2*rand(L(1,m+1),L(1,m)+1)]; W{} = [-1+2*rand(L(),L(-1)+1)]; %Inicializar Matrices de los delta-pesos de ajuste dw = cell(1,depth-1); %Pre-alocacion de los delta pesos for m = 1:depth-1 dw{m} = zeros(size(w{m})); %Inicializar los campos locales inducidos 'v' v = cell(1,depth); %Pre-alocacion de los campos locales for i=1:depth-1; v{i} = [zeros(l(i),1); 1]; v{} = zeros(l(),1); %Inicializar las salidas 'y' de cada capa y = cell(1,depth-1); %Pre-alocacion de las salidas locales for i=1:depth-2; y{i} = zeros(l(i+1),1); y{} = zeros(l(),1); %% 2. Cálculo Forward y Backward para cada epoch while (mse > dmse) && (epoch <= 10000) e = zeros(q,p); err = zeros(1,p); for p = 1:P %Cálculo Forward capa-por-capa para cada patrón p v{1}(1:-1) = X(:,p); for i = 1:depth-1 y{i} = W{i}*v{i}; if i < depth-1 v{i+1}(1:-1) = tansig(y{i}); %Cálculo de la salida else v{i+1} = tansig(y{i}); %Cálculo de la salida %Cálculo de la señal de error e(:,p) = D(:,p)-v{}; %Cálculo de la energía del error if size(d,1) == 1 err(1,p)=0.5*(e(:,p).^2); elseif size(d,1) > 1 err(1,p)=0.5*sum(e(:,p).^2);

8 %Cálculo Backward capa-por-capa para cada patrón p delta = e(:,p).*(tansig('dn',y{})); %Ajuste de pesos for i = depth-1:-1:1 dw{i} = rate * delta * v{i}' + alfa.*dw{i}; W{i} = W{i} + dw{i}; if i > 1 delta = tansig('dn',y{i-1}).*(delta'*w{i}(:,1:-1))'; %Cálculo del mean square error mse = (1/P)*sum(err); epoch = epoch +1; hold on figure(2) semilogx(epoch,mse,'ro') hold off entrenamiento.pesos = W; entrenamiento.epocas = epoch; entrenamiento.estructura = L; entrenamiento.error = mse; [Programa: setupbackpropagation.m] X = [ ; ]; D = [... 0 ];

9 X1 = [ ]; X1 = X1'; D1 = eye(10); X2 = [ ]; X2 = X2'; Instrucciones de uso: se ejecuta el programa setupbackpropagation.m para inicializar la matriz de entradas y la matriz de salidas deseadas, y luego se ejecuta el comando: entrenamiento = backpropagation(x,d,l,rate,alfa,dmse), donde X es la matriz de entrada, D la matriz de salidas deseadas, L el vector de capas ocultas ([N L1 L2 Q]), rate la constante de aprizaje, alfa la constante de momento, y dmse el error deseado de convergencia. Este trabajo forma parte del requisito del curso de Redes Neuronales aplicadas a Control del Prof. Miguel Strefezza de la Universidad Simón Bolívar. Caracas, Marzo de 2009.