Inteligencia Artificial. Aprendizaje neuronal. Ing. Sup. en Informática, 4º. Curso académico: 2011/2012 Profesores: Ramón Hermoso y Matteo Vasirani

Transcripción

1 Inteligencia Artificial Aprendizaje neuronal Ing. Sup. en Informática, 4º Curso académico: 20/202 Profesores: Ramón Hermoso y Matteo Vasirani

2 Aprendizaje Resumen: 3. Aprendizaje automático 3. Introducción al aprendizaje automático 3.2 Árboles de decisión 3.3 Redes neuronales 3.4 Algoritmos genéticos 3.5 Aprendizaje por refuerzo

3 Célula nerviosa o neurona: Cerebro humano cada célula contiene un cuerpo (soma), varias fibras (dentridas) y una fibra larga (axón) cada neurona se conecta con otras (entre 0 y ) (conexión: sinapsis) neuronas propagan señales mediante reacciones electroquímicas las señales: controlan la actividad del cerebro (pensamiento) permiten establecer cambios de posición y conectividad de las neuronas (aprendizaje) Sinapsis Axon Sinapsis Dendritas Axon Dendritas Soma Soma Sinapsis

4 Funcionamiento de una neurona: Cerebro humano las dentridas reciben las señales de (muchas) otras neuronas (entradas) la influencia colectiva de todas sus entradas pueden activar una neurona una neurona activada transporta una señal a las neuronas con las que está conectada (salida) En este procedimiento: la neurona sólo se activa si la influencia colectiva de todas sus entradas supera un nivel mínimo de potencial eléctrico las sinapsis influyen de forma distinta en la activación de la neurona algunas refuerzan la activación (con diferentes grados) otras inhiben la activación (con diferentes grados) la salida de una neurona es, a su vez, la entrada para muchas otras neuronas Variabilidad de las sinapsis el grado de influencia de una sinapsis puede cambiar con el tiempo incluso, se crean nuevas sinapsis Se cree que esta variabilidad es la base del aprendizaje humano.

5 Neuronas artificiales Señales Entrada Pesos Señales de salida x w x 2 w 2 Neurona g w n x n x,,x n entradas w,,w n pesos salida g función de activación: g(x,,x n )=

6 Funciones más comunes de activación x x 2 w w 2 en = n i= w i x i g x n w n Función Umbral Función Signo Función Sigmoide Función Lineal 0 U - en 0 U en 0 - en 0 en - -, si en > U = 0, en caso contrario, si en > U =, en caso contrario en = + e = en

7 Red neuronal biológico y artificial Red Biológica Soma Dendrita Axon Sinapsis Reacción electroquímica en la célula Red Artificial Neurona Entrada Salida Peso Función de activación Sinapsis Dendrites Axon Soma Sinapsis Soma Dendrites Axon I n p u t S i g n a l s O u t p u t S i g n a l s Sinapsis Middle Layer Input Layer Output Layer

8 Neurona más simple: el perceptrón Neurona artificial con una función de activación umbral n, si wi xi > U = i= 0, en caso contrario x w U x 2 w 2 Entradas y salidas binarias El perceptrón para clasificación: puede representar una función booleana de sus entradas Ejemplos: x,5 x 0,5 x 2 x 2 AND OR

9 Red Perceptrón Varias perceptrones componen una red neuronal simple (de una capa) x x 2 x 3 Salida: - codificación de las clases x 4 Entradas: - codificación binaria de los casos Pesos Ejemplo: reconocimiento de números: Perceptrones: - determinan las salidad 2 cada pixel representa una entrada x i o bien 4 neuronas (salidas: 0000, 000, 000, 00, ) o 9 neuronas (salidas: , , , )

10 Aprendizaje de perceptrónes Suponemos un perceptrón de n entradas (x,x 2,,x n ) y una salida y x i e y son binarios Suponiendo un conjunto de ejemplos de entrenamiento: { (X,y), (X2,y2), } con Xi=(x i,x i2,,x in ) Objetivo: aprender un perceptrón que concuerde con los ejemplos, es decir, que implementa la función booleana: f (x,x 2,,x n )= x w U x n w n Para ello hay que aprender los pesos w,,w n y el umbral U En el caso de una red, se considera cada perceptrón por separado

11 Aprendizaje de perceptrónes Idea: Se presenta los ejemplos de entrenamiento de forma iterativa al perceptrón Para cada ejemplo, se compara el resultado de la clasificación del perceptron con el resultado deseado Si hay diferencias, se realizan pequeños ajustes en los pesos de las entradas para reducir estas diferencia Se repite este procedimiento hasta que los resultados convergen (el perceptrón haya aprendido) x w U x n w n

12 Aprendizaje de perceptrónes Pasos en la iteración i con ejemplo de entrenamiento ((x i,x i2,,x in ),yi). Clasificar el ejemplo (x i,x i2,,x in ) con el perceptrón: se obtiene el valor de clasificación actual yi actual 2. Compara el valor actual con el valor deseado: Calcular el Error: e(i)= yi- yi actual 3. Calcular la corrección de pesos con la regla delta: w j =α x ij e(i), para j=, n (α es una constante de aprendizaje) 4. Actualizar los pesos (w,,w n ): w j (i+) = w j (i) + w j, para j=, n Ejemplo i ((x i,,x in ),yi) : x i x x n w U yi actual e(i)= yi- yi actual x in w n w (i+)=w (i)+ w w n (i+)=w n (i)+ w n w =α x i e(i) w n =α x in e(i)

13 Análisis de situaciones: Aprendizaje de perceptrónes Caso : yi = yi actual (ambos tienen o valor 0 o valor ) e(i)= yi- yi actual =0 w j =α x ij e(i)=α x ij 0 = 0 no se modifican los pesos w j (i+) = w j (i) Ejemplo: (X i,yi)= ((0,,),0) x =0 x 2 = 0,2 0,5 n, si wi xi > U = i= 0, en caso contrario = 0 x 3 = 0,2

14 Aprendizaje de perceptrónes Análisis de situaciones: Caso 2: yi = e yi actual =0 (clasificado como negativo cuando debe ser positivo) e(i)= yi- yi actual = w j =α x ij e(i)=α x ij se aumentan los pesos de entradas activas: si x ij = entonces w j (i+) = w j (i)+ α aumentando los pesos de las entradas positivas se aumenta la posibilidad de que la salida sea positiva no se modifican los pesos de entradas negativas (si x ij =0 entonces w j (i+) = w j (i)) Ejemplo: (X i,yi)= ((0,,),) con α=0, x =0 x 2 = 0,2 0,5 y=0 x =0 x 2 = 0,3 0,5 y= x 3 = 0,2 x 3 = 0,3

15 Aprendizaje de perceptrónes Análisis de situaciones: Caso 3: yi = 0 e yi actual = (clasificado como positivo cuando debe ser negativo) e(i)= yi- yi actual =- w j =α x ij e(i)=-α x ij se disminuyen los pesos de entradas activas: si x ij = entonces w j (i+) = w j (i)- α no se modifican los pesos de entradas negativas (si x ij =0 entonces w j (i+) = w j (i)) disminuyendo los pesos de las entradas positivas se aumenta la posibilidad de que la salida sea negativa Ejemplo: (X i,yi)= ((0,,),0) con α=0, x =0 x 2 = 0,4 0,5 y= x =0 x 2 = 0,3 0,5 y= x 3 = 0,4 x 3 = 0,3

16 Algoritmo de aprendizaje: Aprendizaje de perceptrónes. Inizializacion: Fijar los pesos iniciales w,, w n y el umbral U aleatoriamente en el rango [ 0.5, 0.5]. 2. Dado el ejemplo de entrenamiento ((x i,x i2,,x in ),yi) realiza los pasos:. Clasificar el ejemplo (x i,x i2,,x in ) 2. Calcular el error e(i)= yi-yi actual 3. Calcular la corrección de pesos con la regla delta w j=α x ij e(i) 4. Actualizar los pesos w j (i+) = w j (i) + w j 3. Repite el paso 2 con el siguiente ejemplo hasta que el algoritmo converge Un criterio de convergencia habitual: el número de errores entre los últimos n ejemplos es menor que un determinado umbral

17 Aprendizaje de un perceptrón: Ejercicio Realiza el aprendizaje de un perceptrón con tres entradas y una salida (vea el dibujo) y con los siguientes ejemplos de entrenamiento: {((0,,0),),((,0,0),0), ((,,0),),((0,0,),0)} Supón que los pesos y el umbral están inicializados a 0,2 y que el parámetro α tiene el valor 0,3. x 0,2 0,2 y x 2 x 3 0,2 0,2

18 Análisis perceptrón El objetivo del perceptron es clasificar entradas, (x,..., x n ), en dos clases, por ejemplo A y A 2. La clasificación se realiza según la siguiente regla de decisión: n Si xiwi U > 0 entonces devuelve A. i= En realidad, el perceptrón divide el espacio n-dimensional de entradas en dos regiones. La división viene dada por el hiperplano definido por: n j= w j x j U = 0

19 Análisis perceptrón En dos dimensiones: En tres dimensiones: x Región A Región A 2 x x 3 Región A Región A 2 0 x 2 hiperplano 0 x 2 hiperplano El hiperplano es un separador lineal Hay clases que no se pueden separar con separadores lineales Ejemplo: XOR (inténtelo en un ejercicio) x?? 0 x 2

20 Redes perceptones de una capa: comentarios Buenos para problemas sencillos Como red neuronal, bueno cuando las entradas y salidas son subsimbolicas entradas y salidas binarias no existen atributos claramente diferenciados y identificados Ejemplos: reconocimiento de patrones Es capaz de tratar ruido Apto para aprender funciones aparentemente independientes de los valores concretos de los atributos (p.e.: función mayoría) Problemas: No puede representar cualquier función lógica (XOR) No funciona con atributos de alto nivel (requiere la traducción de los casos a valores binarios)

21 Redes neuronales para clases no linealmente separables Redes multicapa: x x 2 x 3 x 4 Entradas una o varias capas ocultas Pesos Capa de salida el funcionamiento de cada neurona es igual que en el caso de la red de una capa

22 Representabilidad de funciones con redes multicapa Ejemplo: XOR Teorema: x - - x 2-0,5-0,5 a a x x 2 a a 2 y ,5 Con una única capa oculta (suficientemente grande) es posible representar cualquier función continua de las entradas con una precisión arbitraria. y

23 Idea: Pero: Aprendizaje en redes multicapa Igual que en el caso del perceptrón simple: ajustar pesos para minimizar el error (diferencias entre salidas actuales y deseadas) Hay varias salidas posibles Se saben los errores de la capa de salida, pero no los errores de las capas ocultas (no sabemos que valor han de tomar los nodos ocultos) x w,,k w,, O w 2,, S y w,n, x w n,n,k w 2,k, w 2,,j O k S w j 2,k,j y j Solución: propagación hacia atrás del error

24 Pasos (con una capa oculta): Aprendizaje en redes multicapa Para la capa de salida (w 2,r,s ): Calcular el error para cada salida: e 2,s =y s y s_actual Actualizar los pesos: w 2,r,s w 2,r,s + α O r e 2,s (O r es la salida de la neurona oculta O r ) Para la capa oculta (w,r,s ): Propagar el error hacia atrás: e n = = Actualizar los pesos: w,r,s w,r,s + α x r e,s x w,,, s j= w 2, s, j w 2,, y S O e 2, j Cada nodo oculto es responsable de una fracción de los errores cometidos por los nodos de salida. w,,k w,n, x w n,n,k w 2,k, w 2,,j O k S w j 2,k,j y j

25 Redes multi-capa: resumen Teorema: Con una única capa oculta (suficientemente grande) es posible representar cualquier función continua de las entradas con una precisión arbitraria. Problema: no se sabe la estructura (de la red) óptima para cada problema Idea: aprender la estructura y los pesos Sólo hemos visto redes muy simples. Existen otros enfoques para: la propagación de los errores el ajuste de los pesos En general son útiles para tareas donde no se dispone de atributos claramente identificados (p.e. reconocimiento escritura)