Métodos de Aprendizaje en Redes Neuronales

Transcripción

1 11 de abril de 2011

2

3 Entrenamiento de redes feedforward (Backpropagation) Siendo {z m, t m } m=1...n un conjunto de n patrones de entrenamiento, con z m las entradas conocidas para el m ésimo patrón y t m las salidas deseadas en cada neurona de salida para ese patrón Algoritmo Backpropagation 1 Iniciar aleatoriamente los pesos de la red 2 Para cada patrón m de entrenamiento, de 1 a n 1 Presentar un patrón de entrada z m a la Red Neuronal. 2 Propagar éstas entradas hacia la capa de salida. 3 Calcular el error en la capa de salida 4 `Retropropagar' dicho error hacia la capa oculta a través de la regla delta 5 Cambiar los pesos de las conexiones. 3 Si tras recorrerse todos los patrones el error cuadrático medio de la salida para todos y cada uno de ellos es menor a un umbral, terminar. En caso contrario, volver a 2

4 Propagación (Feedforward) Funcionamiento usual de la red (entrenada o durante entrenamiento). Consiste en Propagación 1 Inicializar todos los valores v i, i C 0 de las unidades de entrada con el patrón a procesar 2 Para cada capa C k, k 1 (oculta o salida) 1 Para cada neurona j en la capa C k 1 Calcular la entrada de la neurona net j = v i w ij + θ j i C k 1 2 Calcular la salida de la neurona v j = φ(net j )

5 Estimación y uso del Error El error global de la red en cada paso n del entrenamiento se puede cuanticar con la suma de errores cuadráticos E n = 1 (t j,m v j ) 2 2 j C out estableciéndose así la condición de parada, imponiendo un máximo error aceptable en la salida, ε max. Así, la condición es E n < ε max Se busca la minimización del error mediante la variación de los pesos, según E w ij = E net j net j w ij = E net j v i porque netj w ij = v i, la entradas a la neurona j desde la neurona i de la capa anterior. Esto nos deja la notación E net j δ n j = φ (net j )(t j,m v j )

6 ¾Porqué el resultado para δ j? Para las neuronas de salida, la contribución al error de cada neurona j sólo depende de su entrada {v i } i Cout 1 y de los pesos que la conectan con dicha entrada. Entonces E net j = puesto que v j = φ(net j ). net j = (t j,m v j (net j )) ( ) (v j(net j ) t j,m ) net j v j (net j ) = (t j,m v j (net j )) φ (net j )

7 Regla Delta adaptada Dado lo anterior, podemos plantear la expresión de actualización de pesos para conexiones con neuronas de la capa de salida w ij = η E w ij = ηδ j v i Para las neuronas ocultas, el error en la neurona oculta i de la capa k se estima considerando todos los errores inducidos en las neuronas de la capa siguiente. Teniendo la estimación inicial del error en la capa de salida, para calcular los δ i en las capas ocultas se hace: δ i = φ (net i ) w ij δ j j C k+1 y se aplica la misma regla de actualización iterativamente (tiempo n) para todas las conexiones de la red w n ij = ηδ j v i w n ij = w n 1 ij + w n ij

8 Algoritmo de Backpropagation Parámetros: η: tasa de aprendizaje, ε max : umbral de error, {z p, S p } N patrones de entrenamiento, N: número de patrones Inicializar todos los pesos w j con valores aleatorios Hacer 1 Inicializar bandera de error a falso 2 Para p = 0 hasta N 1 Propagar Estimar la salida, v i para el patrón de entrada z p 2 Calcular E. Si E > ε max cambiar a verdadero la bandera de error, sino, pasar a siguiente patrón z p+1 3 Con S p, estimar el δ j para cada neurona j de la capa de salida C out 4 Para todas las capas ocultas desde C out 1hasta C 1 1 Para todas las neuronas i de cada capa Calcular el error δ i y el θ i, actualizar θ i 5 Para todas las conexiones de la red Calcular el w ij Actualizar los pesos de las conexiones w ij Mientras bandera de error sea verdadera

9 Ejemplo Gráco Backpropagation

10 Estructura de la red Algoritmo Backpropagation Ryszard Tadeusiewcz "Sieci neuronowe", Kraków 1992.

11 Fase de propagación adelante I

12 Fase de propagación adelante II

13 Fase de propagación adelante III

14 Fase de propagación adelante IV

15 Fase de propagación adelante V

16 Fase de propagación adelante VI

17 Fase de retropropagación I

18 Fase de retropropagación II

19 Fase de retropropagación III

20 Fase de retropropagación IV

21 Fase de retropropagación V

22 Fase de retropropagación VI

23 Fase de actualización de pesos I

24 Fase de actualización de pesos II

25 Fase de actualización de pesos III

26 Fase de actualización de pesos IV

27 Fase de actualización de pesos V

28 Fase de actualización de pesos VI

29

30 Modelos Competitivos Auto-organizados: Red de Kohonen Estructura bicapa Las neuronas de la capa de entrada, x = [x 1, x 2,, x m ] son captadores simples (toman datos presentados a la red y los pasan a la siguiente capa de manera ponderada a través de los pesos a las conexiones). Las neuronas de la capa siguiente son una matriz bidimensional conocida como mapa auto-organizado, en la que los elementos se activan por regiones (vecindades), según sean los patrones de entrada Datos de complejidad arbitraria pueden ser proyectados al espacio del mapa auto-organizado de forma ponderada a través de un vector (matriz) de pesos. Esto es (para la késima iteración del entrenamiento) wi k = [ wi1, k wi2, k, win k ] T donde n es el número de neuronas.

31 Estructura de la red de Kohonen Neurona Ganadora Matriz de neuronas de salida r vecindad de la neurona ganadora i Neurona ganadora Entradas (sección) La vecindad se dene topológicamente como la bola B r

32 Aprendizaje en la Red de Kohonen El aprendizaje en la red de Kohonen es de tipo competitivo: Se premia a las neuronas que se activan de forma diferenciada ante un patrón de entrenamiento especíco Se trata de un modelo de aprendizaje nosupervisado No se presenta a la red un conjunto de salidas deseadas sino que se refuerza el comportamiento que se considera deseable El algoritmo de entrenamiento es un proceso de auto-organización Los patrones son presentados iterativamente en la capa de entrada e, iterativamente, los pesos se van ajustando de modo que una neurona o región es activada para cada patrón Las neuronas compiten entre sí por ser activadas de acuerdo a los patrones de entrada presentados, según una función de ponderación que refuerza la activación de la región más activa La tasa de aprendizaje es variable. p.ej µ k = 1 αk

33 Algoritmo de entrenamiento para la red de Kohonen 1 Inicialización: 1 El peso w 0 ij de cada conexión entre las neuronas i de la capa de entrada y j del mapa auto-organizado se asigna (aleatoriamente), 2 Denir la vecindad de las neuronas a través del valor r, su radio 2 Presentar un patrón de entrenamiento conocido z = [z 1, z 2,, z m] 3 Se determina la neurona n cuyo vector de pesos es el más cercano al vector patrón de entrada. Se suele emplear la distancia euclídea mind i(n), d i(n) = (x k i wk i,n )2 n i 4 Se actualizan los pesos de todas las conexiones w i,n, para la nésima unidad del mapa (n jo) w k+1 i,n = { w k i + µ k (x k i w k i,n) w k i,n si i B r si i / B r 5 Regresar a 2. hasta que k alcance un número de iteraciones especicado

34 Memorias Asociativas Bidireccionales (BAM) Casos particulares de la máquina de memoria bicapa sin conexiones laterales El conocimiento se almacena en los pesos de la red que asocian entradas con salidas mediante un proceso de transformación B La conguración de entradas y salidas debe tener una correspondencia intrínseca. Los valores entrantes y salientes suelen ser binarios ((0, 1) o (-1, 1)). Se suelen polarizar los patrones (representarlos como función signo) Las neuronas de la capa oculta permiten procesar el conocimiento de las conexiones sobre el patrón de entrada, aproximándolo a un patrón conocido previamente entrenado A Se genera un modelo de memoria asociativa

35 Funcionamiento de una red tipo BAM El Patrón de entrada es presentado a la red a través de la capa de entrada con valores en el vector A, propagándose a la capa de salida, B, a través de las conexiones con pesos en la matriz W, activándolas con un vector de valores B A W B Los valores de activación B de la capa oculta regresan a la capa visible mediante la aplicación de la matriz transpuesta de pesos W T B W T A El vector de valores obtenido en la capa A se propaga de nuevo hacia la capa oculta, generando nuevos valores de activación, B A W B Este proceso se repite hasta que la red alcance un estado estable (variaciones por debajo de un umbral aceptable - menor energía almacenada en W)

36 Funcionamiento de una red tipo BAM Ejemplo de implementación de una memoria BAM

37 Aprendizaje de una red tipo BAM 1 Inicializar aleatoriamente W 2 Leer un vector de entrada A y un vector de salida B, polarizándolos si es necesario (pasar de (0,1) a (-1,1)) 3 Para todos los elementos {w ij } que unen a neuronas a i A y b j B hacer w n+1 ij = w n ij + a ib j 4 Si hay más patrones de entrada, volver a 2. hasta presentarlos todos a la red BAM

38 Recuperación de patrones en una red tipo BAM 1 Leer un vector de entrada A en la red 2 Generar la salida B para el patrón de presentado. Para todos los b j 1 si b n+1 i a iw ij > 0 j = 0 si i a iw ij < 0 b n si i a iw ij = 0 3 Generar la salida A para el patrón de presentado. Para todos los a i 1 si a n+1 j b jw ij > 0 i = 0 si j b jw ij < 0 b n si j b jw ij = 0 4 Volver a 2. hasta que A y B dejen de cambiar.