Perceptrón multicapa. Diego Milone y Leonardo Rufiner Inteligencia Computacional Departamento de Informática FICH-UNL

Transcripción

1 Perceptrón multicapa Diego Milone y Leonardo Rufiner Inteligencia Computacional Departamento de Informática FICH-UNL

2 Organización Un poco de historia... Cómo resolver el problema XOR? Métodos de gradiente para el entrenamiento Perceptrón multicapa Retropropagación en el perceptrón multicapa

3 Organización Un poco de historia... Cómo resolver el problema XOR? Métodos de gradiente para el entrenamiento Perceptrón multicapa Retropropagación en el perceptrón multicapa

4 Notas históricas 1957 Rosenblatt comienza el desarrollo del Perceptrón (simple) Widrow y Hoff desarrollan el modelo Adaline (ADAptative LINear Elements) Minsky y Papert prueban que el Perceptrón no es capaz de resolver problemas sencillos (XOR) Werbos desarrolla la idea básica del algoritmo de retro-propagación (BP) Rumelhart y Hinton redescubren y mejoran el algoritmo de BP.

5 Organización Un poco de historia... Cómo resolver el problema XOR? Métodos de gradiente para el entrenamiento Perceptrón multicapa Retropropagación en el perceptrón multicapa

6 El problema del XOR Figura: Representación gráfica del problema del OR exclusivo.

7 Combinación de perceptrones simples Cómo podemos combinar dos o más PS para resolver el problema XOR?

8 Combinación de perceptrones simples Cómo podemos combinar dos o más PS para resolver el problema XOR? Perceptrón A: x 2 = 1 x 1

9 Combinación de perceptrones simples Cómo podemos combinar dos o más PS para resolver el problema XOR? Perceptrón A: x 2 = 1 x 1 = w A0 w A2 w A1 w A2 x 1

10 Combinación de perceptrones simples Cómo podemos combinar dos o más PS para resolver el problema XOR? Perceptrón A: x 2 = 1 x 1 = w A0 w A2 w A1 w A2 x 1 w A0 = 1 w A1 = +1 w A2 = +1 y A = sgn(x 2 + x 1 + 1)

11 Combinación de perceptrones simples Cómo podemos combinar dos o más PS para resolver el problema XOR? Perceptrón A: x 2 = 1 x 1 = w A0 w A2 w A1 w A2 x 1 w A0 = 1 w A1 = +1 w A2 = +1 y A = sgn(x 2 + x 1 + 1) Perceptrón B: x 2 = +1 x 1

12 Combinación de perceptrones simples Cómo podemos combinar dos o más PS para resolver el problema XOR? Perceptrón A: x 2 = 1 x 1 = w A0 w A2 w A1 w A2 x 1 w A0 = 1 w A1 = +1 w A2 = +1 y A = sgn(x 2 + x 1 + 1) Perceptrón B: x 2 = +1 x 1 w B0 = +1 w B1 = +1 y B = sgn(x 2 + x 1 1) w B2 = +1

13 Combinación de perceptrones simples Perceptrón C: y A = +1 + y B

14 Combinación de perceptrones simples Perceptrón C: y A = +1 + y B w C0 = +1 w C1 = 1 y C = sgn(y A y B 1) w C2 = +1

15 Combinación de perceptrones simples Perceptrón C: y A = +1 + y B w C0 = +1 w C1 = 1 y C = sgn(y A y B 1) w C2 = +1 Cómo es la arquitectura } de esta red neuronal? y A = sgn(x 2 + x 1 + 1) y y B = sgn(x 2 + x 1 1) C = sgn(y A y B 1)

16 Combinación de perceptrones simples Perceptrón C: y A = +1 + y B w C0 = +1 w C1 = 1 y C = sgn(y A y B 1) w C2 = +1 Cómo es la arquitectura } de esta red neuronal? y A = sgn(x 2 + x 1 + 1) y y B = sgn(x 2 + x 1 1) C = sgn(y A y B 1) Resuelve el problema XOR?

17 Combinación de perceptrones simples Figura: (a) Arquitectura de una red para resolver el problema del XOR. (b) Gráfico de flujo de señal de la red.

18 Combinación de perceptrones simples Figura: (a) Límite de decisión construido por la neurona oculta 1 de la red en la fig. anterior. (b) Límite de decisión construido por la neurona oculta 2 de la red. (c) Límite de decisión construido por la red completa.

19 Organización Un poco de historia... Cómo resolver el problema XOR? Métodos de gradiente para el entrenamiento Perceptrón multicapa Retropropagación en el perceptrón multicapa

20 Entrenamiento por el método de gradiente Concepto: Mover los pesos en la dirección en que se reduce el error, dirección que es opuesta a su gradiente con respecto a los pesos

21 Entrenamiento por el método de gradiente Concepto: Mover los pesos en la dirección en que se reduce el error, dirección que es opuesta a su gradiente con respecto a los pesos Interpretación gráfica

22 Entrenamiento por el método de gradiente Concepto: Mover los pesos en la dirección en que se reduce el error, dirección que es opuesta a su gradiente con respecto a los pesos Interpretación gráfica Ecuación básica: w(n + 1) = w(n) µ w ξ(w(n))

23 Entrenamiento por el método de gradiente Concepto: Mover los pesos en la dirección en que se reduce el error, dirección que es opuesta a su gradiente con respecto a los pesos Interpretación gráfica Ecuación básica: w(n + 1) = w(n) µ w ξ(w(n)) Aplicación: Caso sencillo: perpectrón simple (least mean squares) Caso más general: perceptrón multicapa (back-propagation)

24 Organización Un poco de historia... Cómo resolver el problema XOR? Métodos de gradiente para el entrenamiento Perceptrón multicapa Retropropagación en el perceptrón multicapa

25 Extensión del algoritmo a múltiples capas Entrenamiento por gradiente en el ADALINE Entrenamiento por gradiente en el MADALINE Entrenamiento por gradiente en el caso general Regiones de decisión

26 Regiones para varias capas Figura: Diferentes problemas no-linealmente separables (Lippmann, 1987).

27 Arquitectura del perceptrón multicapa Figura: Arquitectura de un perceptrón multicapa (PMC) con dos capas ocultas.

28 Arquitectura del perceptrón multicapa Figura: Ilustración de las dos direcciones básicas de flujos de señal en un PMC.

29 Arquitectura del perceptrón multicapa Representación gráfica de 3 capas Cálculo de las salidas en cada capa Criterio: suma del error cuadrático instantáneo

30 Cálculo de las salidas en cada capa Capa I: v I j = w I, x = N w I ji x i i=0 (completo v I = Wx)

31 Cálculo de las salidas en cada capa Capa I: v I j = w I, x = N w I ji x i i=0 y I j = φ(vi j ) = e bvi j (completo v I = Wx) 1 (simétrica ± 1)

32 Cálculo de las salidas en cada capa Capa I: v I j = w I, x = N w I ji x i i=0 y I j = φ(vi j ) = e bvi j Capa II: v II j = w II, y I y II j = φ(v II j ) Capa III: v III j = w III, y II y III j (completo v I = Wx) 1 (simétrica ± 1) = φ(v III j ) = y j

33 Criterio de error Suma del error cuadrático instantáneo ξ(n) = 1 2 M e 2 j (n) j=1

34 Aplicación del gradiente (caso general) w ji (n) = µ ξ(n) w ji (n)

35 Aplicación del gradiente (caso general) w ji (n) = µ ξ(n) w ji (n) ξ(n) w ji (n) = ξ(n) e j (n) y j (n) v j (n) e j (n) y j (n) v j (n) w ji (n)

36 Aplicación del gradiente (caso general) w ji (n) = µ ξ(n) w ji (n) ξ(n) w ji (n) = ξ(n) e j (n) y j (n) e j (n) y j (n) v j (n) v j (n) w ji (n) v j (n) w ji (n) = N w ji (n)y i (n) i=0 = y i (n) w ji (n)

37 Aplicación del gradiente (caso general) w ji (n) = µ ξ(n) w ji (n) ξ(n) w ji (n) = ξ(n) e j (n) y j (n) e j (n) y j (n) v j (n) y i(n) Gradiente de error local instantáneo: δ j = ξ(n) y j (n) y j (n) v j (n)

38 Aplicación del gradiente (caso general) w ji (n) = µδ j (n)y i (n) ξ(n) w ji (n) = ξ(n) e j (n) y j (n) e j (n) y j (n) v j (n) y i(n) Gradiente de error local instantáneo: δ j = ξ(n) y j (n) y j (n) v j (n)

39 Derivada de la función de activación simétrica (1/2) y j (n) v j (n) = { } e v j (n) v j (n) e v j(n) = 2( ) 1 + e v j (n) 2 1 e v j(n) = e v j(n) 1 + e v j(n) 0 {}}{ e v j(n) = e v j(n) 1 + e v j(n) ( ) 1 1 = e v j(n) 1 + e v j(n) e vj(n) 1 + e v j(n)

40 Derivada de la función de activación simétrica (2/2) y j (n) v j (n) ( ) 1 1 = e v 1 j(n) 1 + e v j(n) = 2 y ( j(n) y ) j(n) ( = (y j (n) + 1) 1 y ) j(n) ( ) 2 yj (n) 1 = (y j (n) + 1) 2 = 1 2 (y j(n) + 1)(y j (n) 1)

41 Aplicación del gradiente (caso general) w ji (n) = µδ j (n)y i (n) ξ(n) w ji (n) = ξ(n) e j (n) y j (n) e j (n) y j (n) v j (n) y i(n) Gradiente de error local instantáneo: δ j = ξ(n) y j (n) y j (n) v j (n) δ j = ξ(n) 1 y j (n) 2 (1 + y j(n))(1 y j (n))

42 Organización Un poco de historia... Cómo resolver el problema XOR? Métodos de gradiente para el entrenamiento Perceptrón multicapa Retropropagación en el perceptrón multicapa

43 Retropropagación en la capa III (salida) w III ji (n) = µδj III (n)y II i (n)

44 Retropropagación en la capa III (salida) w III δ III j ji (n) = µδj III (n)y II i (n) (n) = ξ(n) 1 (n) 2 y III j (1 + yiii j (n))(1 y III j (n))

45 Retropropagación en la capa III (salida) w III δ III j ji (n) = µδj III (n)y II i (n) (n) = ξ(n) 1 (n) 2 y III j δj III (n) = ξ(n) e j (n) (1 + yiii j e j (n) 1 (n) 2 y III j (n))(1 y III j (n)) (1 + yiii j (n))(1 y III j (n))

46 Retropropagación en la capa III (salida) { } 1 δj III 2 j e2 j (n) (n) = e j (n) 1 2 (1 + yiii j { d III j (n))(1 y III j (n)) } (n) y III j (n) y III j (n)

47 Retropropagación en la capa III (salida) { } 1 δj III 2 j e2 j (n) (n) = e j (n) 1 2 (1 + yiii j { d III j (n))(1 y III j (n)) } (n) y III j (n) y III j (n) δ III j (n) = 1 2 e j(n)(1 + y III j (n))(1 y III j (n))

48 Retropropagación en la capa III (salida) { } 1 δj III 2 j e2 j (n) (n) = e j (n) 1 2 (1 + yiii j { d III j (n))(1 y III j (n)) } (n) y III j (n) y III j (n) δ III j (n) = 1 2 e j(n)(1 + y III j (n))(1 y III j (n)) w III ji (n) = ηe j (n)(1 + y III j (n))(1 y III j (n))y II i (n)

49 Retropropagación en la capa II (oculta) w II ji (n) = µδii j (n)yi i (n)

50 Retropropagación en la capa II (oculta) w II ji (n) = µδii j (n)yi i (n) δ II j ξ(n) 1 (n) = y II j (n) 2 (1 + yii j (n))(1 y II j (n))

51 Retropropagación en la capa II (oculta) w II ji (n) = µδii j (n)yi i (n) δ II j δ II ξ(n) 1 (n) = y II j (n) 2 { 1 j (n) = 2 (1 + yii j (n))(1 y II j (n)) k e2 k (n)} 1 j (n) (1 + yii j (n))(1 y II j (n)) 2 y II

52 Retropropagación en la capa II (oculta) w II ji (n) = µδii j (n)yi i (n) δ II j δ II ξ(n) 1 (n) = y II j (n) 2 { 1 j (n) = 2 δ II j (n) = 1 2 k (1 + yii j (n))(1 y II j (n)) k e2 k (n)} 1 j (n) (1 + yii j (n))(1 y II j (n)) 2 e 2 k (n) 1 y II j (n) (1 + yii j (n))(1 y II j (n)) 2 y II

53 Retropropagación en la capa II (oculta) w II ji (n) = µδii j (n)yi i (n) δ II j δ II ξ(n) 1 (n) = y II j (n) 2 { 1 j (n) = 2 δ II j (n) = 1 2 δ II j (n) = k k (1 + yii j (n))(1 y II j (n)) k e2 k (n)} 1 j (n) (1 + yii j (n))(1 y II j (n)) 2 e 2 k (n) 1 y II j (n) (1 + yii j (n))(1 y II j (n)) 2 y II e k (n) e k(n) 1 y II j (n) (1 + yii j (n))(1 y II j (n)) 2

54 Retropropagación en la capa II (oculta) δ II j (n) = k e k (n) e k(n) k (n) yiii viii y III k (n) v III k (n) y II k (n) 1 j (n) 2 (1+yII j (n))(1 y II j (n))

55 Retropropagación en la capa II (oculta) δ II j (n) = k e k (n) e k(n) k (n) yiii viii y III k (n) v III k (n) y II k (n) 1 j (n) 2 (1+yII j (n))(1 y II j (n)) δ II j (n) = k e k (n) { dk III (n) yiii k (n)} y III k (n) 1 2 { } j wiii kj yii j (n) y II j (n) 1 2 (1 + yiii k (n))(1 y III k (n)) (1 + yii j (n))(1 y II j (n))

56 Retropropagación en la capa II (oculta) δ II j (n) = k e k (n) e k(n) k (n) yiii viii y III k (n) v III k (n) y II k (n) 1 j (n) 2 (1+yII j (n))(1 y II j (n)) δ II j (n) = k e k (n) { dk III (n) yiii k (n)} y III k (n) 1 2 { } j wiii kj yii j (n) y II j (n) 1 2 (1 + yiii k (n))(1 y III k (n)) (1 + yii j (n))(1 y II j (n)) δ II j (n) = k e k (n) ( 1) 1 (1 + yiii k (n))(1 y III k (n)) 2 kj 1 (1 + yii j (n))(1 y II j (n)) 2 w III

57 Retropropagación en la capa II (oculta) δ II j (n) = k e k (n) 1 (1 + yiii k (n))(1 y III k (n)) w III kj 2 1 (1 + yii j (n))(1 y II j (n)) 2

58 Retropropagación en la capa II (oculta) δ II j (n) = k e k (n) 1 (1 + yiii k (n))(1 y III k (n)) w III kj 2 1 (1 + yii j (n))(1 y II j (n)) 2 Pero de la capa III sabemos que: δ III k (n) = 1 2 e k(n)(1 + y III k (n))(1 yiii k (n))

59 Retropropagación en la capa II (oculta) δ II j (n) = k e k (n) 1 (1 + yiii k (n))(1 y III k (n)) w III kj 2 1 (1 + yii j (n))(1 y II j (n)) 2 Pero de la capa III sabemos que: δ III k (n) = 1 2 e k(n)(1 + y III k (n))(1 yiii k (n)) Reemplzando: δ II j (n) = k δ III k (n)w III kj 1 2 (1 + yii j (n))(1 y II j (n))

60 Retropropagación en la capa II (oculta) Volviendo a: w II ji (n) = µδii j (n)yi i (n)

61 Retropropagación en la capa II (oculta) Volviendo a: w II ji (n) = µδii j (n)yi i (n) Por lo tanto: w II ji (n) = η [ k ] δk IIIwIII kj (n) (1 + y II j (n))(1 yii j (n))yi i (n)

62 Generalizando para la capa p w II ji (n) = η [ k δ III k w III kj (n) w (p) ji (n) = η δ (p+1), w (p+1) j ] (1 + y II j (n))(1 y II j (n))y I i(n) (1 + y (p) j (n))(1 y (p) j (n))y (p 1) i (n)

63 Resumen del algoritmo de retropropagación (BP) 1. Inicialización aleatoria 2. Propagación hacia adelante (de la entrada) 3. Propagación hacia atras (del error) 4. Adaptación de los pesos 5. Iteración: vuelve a 2 hasta convergencia o finalización

64 Ejemplo gráfico BP con PMC 3 capas Figura: Ejemplo de un PMC de 3 capas.

65 Ejemplo: Cálculo de las salidas en cada capa Figura: Cálculo salida capa I, neurona 1.

66 Ejemplo: Cálculo de las salidas en cada capa Figura: Cálculo salida capa I, neurona 2.

67 Ejemplo: Cálculo de las salidas en cada capa Figura: Cálculo salida capa I, neurona 3.

68 Ejemplo: Cálculo de las salidas en cada capa Figura: Cálculo salida capa II, neurona 1.

69 Ejemplo: Cálculo de las salidas en cada capa Figura: Cálculo salida capa II, neurona 2.

70 Ejemplo: Cálculo de las salidas en cada capa Figura: Cálculo salida capa III, neurona 1.

71 Ejemplo: Retropropagación en la capa III (salida) Figura: Cálculo del error en capa III, neurona 1.

72 Ejemplo: Retropropagación en la capa III (salida) Figura: Propagación del error a la capa II, neurona 1.

73 Ejemplo: Retropropagación en la capa III (salida) Figura: Propagación del error a la capa II, neurona 2.

74 Ejemplo: Retropropagación en la capa II (oculta) Figura: Propagación del error a la capa I, neurona 1.

75 Ejemplo: Retropropagación en la capa II (oculta) Figura: Propagacion del error a la capa I, neurona 2.

76 Ejemplo: Retropropagación en la capa II (oculta) Figura: Propagación del error a la capa I, neurona 3.

77 Ejemplo: Actualizando los pesos de la red Figura: Actualización de pesos capa I, neurona 1.

78 Ejemplo: Actualizando los pesos de la red Figura: Actualización de pesos capa I, neurona 2.

79 Ejemplo: Actualizando los pesos de la red Figura: Actualizacion de pesos capa I, neurona 3.

80 Ejemplo: Actualizando los pesos de la red Figura: Actualización de pesos capa II, neurona 1.

81 Ejemplo: Actualizando los pesos de la red Figura: Actualización de pesos capa II, neurona 2.

82 Ejemplo: Actualizando los pesos de la red Figura: Actualización de pesos capa III, neurona 1.

83 Término de momento Modificación adaptativa de la velocidad de aprendizaje. (ver Haykin Sección 6.3)