Aprendizaje inductivo

Transcripción

1 Inteligencia Artificial Aprendizaje inductivo Ing. Sup. en Informática, 4º Curso académico: 2011/2012 Profesores: Ramón Hermoso y Matteo Vasirani

2 Aprendizaje Resumen: 3. Aprendizaje automático 3.1 Introducción al aprendizaje automático 3.2 Árboles de decisión 3.3 Redes neuronales 3.4 Algoritmos genéticos 3.5 Aprendizaje por refuerzo

3 Aprendizaje: motivación 1. Es difícil especificar el conocimiento necesario para realizar una determinada tarea Ejemplo: diagnosis de cáncer de mama a partir de imágenes 2. Organizar, analizar y estructurar los datos y la información 3. Automatizar los sistemas y personalizarlos a los individuos Solución: sistemas que aprendan y se adaptan

4 Clasificación: Aprendizaje: posibles tareas clasificar productos de una fábrica en correctos y erróneos Predicción: predecir el tráfico en una ciudad Diagnostico: diagnosticar enfermedades de pacientes a partir de síntomas Agrupación: agrupar páginas Web en función de su contenido Caracterización: Determinar las características de las personas que compren determinados tipos de productos Mejorar la eficiencia: mejorar un robot que tiene que encontrar caminos a una determinada posición en un edificio para que encuentre los caminos más rápido

5 Aprendizaje Representación de los datos Simbólico Sub-simbólico Representación de los datos por características y atributos E.g.: estado de trafico tiempo día de la semana hora <lluvia viernes 8:00> <sol sábado 12:00> Representación no directamente interpretable E.g.: estado de trafico tiempo día de la semana hora < > < >

6 Aprendizaje Tipo de datos Supervisado No supervisado Tenemos un conjunto de ejemplos para los que conocemos los resultados E.g.: estado de trafico tiempo día de la semana hora tráfico <lluvia viernes 8:00 mucho> <sol sábado 12:00 poco> Tenemos un conjunto de ejemplos sin etiquetas E.g.: agrupar objetos

7 Aprendizaje Supervisado No supervisado Simbólico Árboles de decisión Aprendizaje por refuerzo Sub-simbólico Redes neuronales Algoritmos genéticos

8 Aprendizaje supervisado: ejemplo Ejemplos Casos nuevos sí sí no sí sí no no Algoritmo de aprendizaje Concepto objetivo: objetos con 3 lados son triángulos

9 Aprendizaje supervisado: notación básica Objetivo: aprender un cierto concepto objetivo (por ejemplo: determinados objetos son triángulos ), a partir de ejemplos, definidos como un conjunto de atributos, de los que conocemos los resultados (p. e.: objeto nº1=triángulo, objeto nº2=triángulo, objeto nº3=no triángulo, ) Problema: encontrar una descripción del concepto objetivo (hipótesis) que I) concuerda con los ejemplos presentados II) generaliza a casos nuevos

10 Aprendizaje supervisado: notación básica Matemáticamente: Suponemos que el concepto objetivo es una función f:x Y X es un espacio de entradas (posibles casos) (p.e.: {objeto azul nº1, objeto verde nº5, }) Y el espacio de salidas (resultados) {p.e.:{triángulo, no triángulo}) Tenemos como entrada una secuencia de ejemplos de pares (entrada,salida): { (x 1,y 1 ), (x 2,y 2 ), } con x i X e y i Y p.e.:{(objeto rojo nº22, triángulo), (objeto verde nº34, no triángulo), } Objetivo del algoritmo de aprendizaje: encontrar función hє H que aproxime f, tal que: h(x i )=f(x i ) para todos (o la mayoría de los) ejemplos presentados h tenga expectativas de comportase igual (o similar) a f para casos aun desconocidos (generalización) H : espacio de hipótesis

11 Formalización de un problema de aprendizaje supervisado Clase de problemas: Que se debe aprender (concepto objetivo), cómo se representan los elementos (atributos y posible valores de cada atributo)? Información presentada (ejemplos de entrenamiento): Ejemplos positivos, negativos o ambos Espacio de las hipótesis: En qué lenguaje se presentan las hipótesis (árbol de decisión, red neuronal), cuál es el conjunto de hipótesis? Algoritmo de aprendizaje: Qué algoritmo /arquitectura se usa? Características del aprendizaje Cuándo se ha aprendido? Cuándo se aprende correctamente?

12 Encontrar una hipótesis que: Espacio de hipótesis Concuerda con los ejemplos de entrenamiento Generaliza bien a casos aún desconocidos Cómo encontrar esta hipótesis hє H? y y y Navaja de Ockham: x x x Entre varias hipótesis posibles, preferir la hipótesis más sencilla.

13 Clasificación Clasificación: f:x Y, Y es discreto Clasificación binaria: Problema: decidir la pertenencia de casos a una clase f:x {0,1} Posible información presentada (ejemplos de entrenamiento): Casos positivos: (x,1) (x pertenece a la clase) Casos negativos: (x,0) (x no pertenece a la clase) La clasificación binaria tiene muchas aplicaciones reales: Frecuentemente se identifica aprendizaje supervisado con la clasificación Árboles de decisión y redes neuronales son algoritmos de clasificación

14 Aprendizaje Resumen: 3. Aprendizaje automático 3.1 Introducción al aprendizaje automático 3.2 Árboles de decisión 3.3 Redes neuronales 3.4 Algoritmos genéticos 3.5 Aprendizaje por refuerzo

15 Ejemplo Decidir si se puede dar una tarjeta de crédito a clientes de un banco Saldo act. Edad Saldo med. Años cliente Dar tarjeta? bajo <18 alto <1 no alto alto >1 si alto medio >1 no alto >25 bajo >1 no bajo >25 medio >1 si alto alto >1 si bajo alto <1 no medio <18 medio <1 no medio >25 alto <1 si Objetivo: aprender un clasificador de clientes

16 Un ejemplo: NO NO NO Árboles de decisión como clasificadores <18 bajo, medio bajo, medio <1 NO edad saldo med. alto >25 bajo saldo med. medio alto saldo act. NO años cliente SI alto años cliente >1 SI <1 >1 NO Clasificar un caso: (saldo act.=bajo, edad=>25, saldo med.=medio, años cliente=>1) SI

17 Aprendizaje de árboles de decisión Problema: inducir (encontrar/aprender) árboles de decisión (hipótesis) a partir de ejemplos de entrenamiento Algoritmo 1: para cada ejemplo de entrenamiento añadir la rama completa del ejemplo Ejemplo 1: ((bajo,<18,alto,<1),no) saldo act. edad bajo <18 saldo med. alto años cliente hipótesis 1 NO <1

18 Aprendizaje de árboles de decisión Problema: inducir (encontrar/aprender) árboles de decisión (hipótesis) a partir de ejemplos de entrenamiento Algoritmo 1: para cada ejemplo de entrenamiento añadir la rama completa del ejemplo Ejemplo 1: ((bajo,<18,alto,<1),no) Ejemplo 2: ((alto,18-25,alto,>1),si) Las hipótesis concuerdan con los ejemplos, pero: no generalizan a casos nuevos saldo act. edad bajo saldo med. años cliente NO <18 alto <1 hipótesis 2 alto edad saldo med. años cliente SI alto >1

19 Aprendizaje de árboles de decisión Algoritmo de aprendizaje de árboles de decisión: crear el árbol de forma recursiva de arriba abajo utilizar en cada nodos el atributo más importante el atributo más importante es él que mejor discrimina los ejemplos que han llegado hasta este nodo clasifica los ejemplos y sigue en el siguiente nivel {(E1,si),(E2,si),(E3,no),(E4,no),(E5,si), } A 2 A 1 A 1 =a A 1 =b {(E1,si),(E2,si),(E4,no), } {(E3,no),(E5,si), } A 2 =c A 2 =d {(E1,si),(E2,si)} {(E4,no), } 2

20 Aprendizaje de árboles de decisión: algoritmo ID3 Seleccionar el mejor atributo A i Crear un nodo para ese atributo con tantos sucesores como valores tenga Introducir los ejemplos en los sucesores según el valor que tenga el atributo A i Por cada sucesor, Si sólo hay ejemplos de una clase c k entonces etiquetarlo con c k Si no, llamar recursivamente el algoritmo con una tabla formada por los ejemplos de ese nodo, eliminando la columna del atributo A i

21 Aprendizaje de árboles de decisión: ejemplo Ej.: edad s_a s_m tarjeta E1 <18 alto alto NO E2 <18 bajo bajo NO E alto alto SI E bajo alto SI E alto bajo NO {E1,E2,E3,E4,E5,E6} edad < E bajo bajo NO NO s_m >25 alto bajo medio NO {E1,E2} {E3,E4,E5,E6} {} SI NO SI/NO {E3,E4} {E5,E6} {}

22 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Elección basada en la entropía de un atributo mide en contenido de información en bits Cuántos bits hacen falta para codificar una respuesta que pueda tener n valores distintos y cada valor r i tiene una probabilidad P(r i ) I[P(r 1 ),,P(r n )] = - P(r i ) log 2 [P(r i )] Para el conjunto de ejemplos E y el concepto dar tarjeta : r 1 =SI, r 2 =NO I[P(SI),P(NO)] = -2/4 log 2 [2/4] -2/4 log 2 [2/4] = 1

23 Aprendizaje de árboles de decisión: elección de los atributos El concepto objetivo tiene valores r 1,,r n (p.ej.: r 1 =SI, r 2 =NO) Cada atributo A k A tiene una serie de posibles valores v 1,,v m.. Estos dividen los ejemplos del conjunto E en m subconjuntos E 1,,E m : p. e.: A k = edad, v 1 = <18, v 2 = 18-25, v 3 = >25, E 1 ={Ej1,Ej2}, E 2 ={Ej3}, E 3 ={Ej4} Procedimiento para elegir el mejor atributo: Paso 1: Calcula la entropía de E: I E [P(r 1 ),,P(r n )] = i - P(r i ) log 2 [P(r i )] E 1 n i i 2 i Paso 2: Para cada A k, se calcula la entropía de los subconjuntos E i : I Ei [P(r 1 v i ),,P(r n v i )] = j - P(r j v i ) log 2 [P(r j v i )] Paso 3: Para cada A k, se calcula la cantidad de entropía del atributo: I(A k ) = j P(v j ) I Ej [P(r 1 v j ),,P(r n v j )] Paso 4: Elegir aquel atributo que obtiene la mayor ganancia de información: Ganancia(A k ) = I E - I(A k )

24 Aprendizaje de árboles de decisión: elección de los atributos, ejemplo E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Paso 1: Calcula la entropía de E: I[P(SI),P(NO)] = -2/4 log 2 [2/4] -2/4 log 2 [2/4] = 1

25 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Paso 2: Para cada A k, se calcula la entropía de los subconjuntos E i : Ejemplo: edad E={Ej1,Ej2,Ej3,Ej4} edad < >25 E 1 ={Ej1,Ej2} E 2 ={Ej3} E 3 ={Ej4} I[P(SI <18),P(NO <18)] = -0/2 log 2 [0/2] -2/2 log 2 [2/2] = 0 I[P(SI 18-25),P(NO 18-25)] = -1/1 log 2 [1/1] -0/1 log 2 [0/1] = 0 I[P(SI >25),P(NO >25)] = -1/1 log 2 [1/1] -0/1 log 2 [0/1] = 0

26 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Paso 2: Para cada A k, se calcula la entropía de los subconjuntos E i : Ejemplo: s_a bajo E={Ej1,Ej2,Ej3,Ej4} s_a mediano E 1 ={Ej1} E 2 ={Ej3} E 3 ={Ej2, Ej4} alto I[P(SI bajo),p(no bajo)] = -0/1 log 2 [0/1] -1/1 log 2 [1/1] = 0 I[P(SI med),p(no med)] = -1/1 log 2 [1/1] -0/1 log 2 [0/1] = 0 I[P(SI alto),p(no alto)] = -1/2 log 2 [1/2] -1/2 log 2 [1/2] = 1

27 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Cuál es el mejor atributo: s_a o edad? Paso 3: Ej mediano SI Ej4 >25 alto SI Para cada A k,, calcular I(A k ): I[edad] = P(<18) I[P(SI <18),P(NO <18)] + P(18-25) I[P(SI 18-25),P(NO 18-25)] + P(>25) I[P(SI >25),P(NO >25)] = 2/ / /4 0 = 0 I[s_a] = P(bajo) I[P(SI bajo),p(no bajo)] + P(med) I[P(SI med),p(no med)] + P(alto) I[P(SI alto),p(no alto)] = 1/ / /4 1 = 0.5

28 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Cuál es el mejor atributo: s_a o edad? Paso 4: Ej mediano SI Ej4 >25 alto SI Elegir el atributo con mayor ganancia de información: Ganancia(edad) = I E - I(edad) = 1 0 = 1 Ganancia(s_a) = I E - I(s_a) = = 0.5 Como cabe esperar se elige el atributo edad

29 Aprendizaje de árboles de decisión: Comentarios Ventajas: decisiones basadas en la estadística (es capaz de tratar ruido) Los clasificadores aprendidos (árboles de decisión) son fácilmente interpretables Problemas: mantiene una hipótesis única /no es capaz de aprender de forma incremental (si se tienen nuevos ejemplos hay que calcular el árbol de nuevo) tratamientos de valores continuos, o atributos con un gran número de valores discretos (C4.5) tratamiento de valores desconocidos (información incompleta) árboles exponenciales para determinadas funciones (p.e.: función paridad) overfitting: generar árboles demasiado específicos ( Cuándo se debe parar de dividir los nodos?)

30 Evaluación de métodos de aprendizaje Evaluación empírica No se puede evaluar un clasificador con los mismos ejemplos que se han utilizado para el entrenamiento Colecciones de pruebas: contienen un conjunto de ejemplos de entrenamiento ML repository: Un clasificador clasifica un conjunto de casos de la siguiente forma: Ejemplos pos. Ejemplos neg. Clasificados como positivos TP FP Clasificados como negativos FN TN TP: true positives (clasificado: positivo, realidad: positivo) TN: true negatives (clasificado: negativo, realidad: negativo) FP: false positives (clasificado: positivo, realidad: negativo) FN: false negatives (clasificado: negativo, realidad: positivo)

31 Evaluación de métodos de aprendizaje Medidas (más comunes) de evaluación: true positive rate (sensitivity, recall): [0,,1]; ideal=1 TP tpr = TP + FN false positive rate: [0,,1]; ideal=0 fpr = FP FP + TN precision: [0,,1]; ideal=1 TP precision = TP + FP corrección:[0,,1]; ideal=1 TP + TN correccion = TP + FP + TN + FN Es útil un clasificador con corrección=0.4? clasificados correctamente como positivos = todos los positivos clasificados erroneamente como positivos = todos los negativos clasificados correctamente como positivos = todos los clasificados como positivos = clasificados correctamente todos los ejemplos

32 Evaluación de métodos de aprendizaje Hay dos tipos de errores falsos positivos falsos negativos En algunos dominios es más grave un error que otro: Ejemplo: diagnostico de cáncer es muy importante identificar todos los pacientes que tienen cáncer no importa (demasiado) si se diagnostica cáncer a una persona que no lo tiene hay que evitar falsos negativos el true positive rate tiene que ser alto

33 Aumentar el true positive rate es muy fácil Por ejemplo: Evaluación de métodos de aprendizaje tpr = TP TP + FN = 9 = TP tpr = TP+ FN 6 = = 0, Entonces true_positive_rate =1 (muy bien), pero false_positive_rate=1 (muy mal) Es importante encontrar un equilibrio entre ambas medidas Ideal: true_positive_rate=1 y false_positive_rate=0

34 Aprendizaje de árboles de decisión: Ejercicio Aplique el algoritmo de aprendizaje de árboles de decisión al siguiente conjunto de ejemplos. Especifique el árbol aprendido y los valores de ganancia de los atributos elegidos en los diferentes nodos. Pelo Altura Peso Protección Quemadura rubio medio bajo no sí rubio alto medio sí no moreno bajo medio sí no rubio bajo medio no si rojo medio alto no si moreno alto alto no no moreno medio alto no no rubio bajo bajo sí no