Sesión 11 Árboles de decisión

Transcripción

1 Inteligencia Artificial Sesión 11 Árboles de decisión Ingeniería Superior en Informática, 4º Curso académico: 2008/2009 Profesores: Sascha Ossowski, Ramón Hermoso, y Matteo Vasirani Tema 3: Aprendizaje Automático Resumen: 3. Aprendizaje automático 3.1 Introducción al aprendizaje automático 3.2 Árboles de decisión 3.3 Redes neuronales 1

2 Aprendizaje automático: motivación 1. El desarrollo de software complejo es complicado Es difícil especificar el conocimiento necesario para realizar una determinada tarea Por tanto es difícil implementar un sistema que realiza esta tarea Ejemplo: diagnosis de cáncer de mama a partir de imágenes 2. La sociedad de la información genera una cantidad creciente de información nadie es capaz de organizar/analizar/estructurar estos datos 3. Hay una tendencia de automatizar/informatizar la sociedad a la par con la necesidad de personalizar los sistemas a los individuos nadie es capaz de prever las necesidades especificas de los diferentes usuarios actuales y futuros Solución: sistemas que aprendan y se adaptan Qué es aprendizaje? Memorizar algo Mejorar las capacidades con la experiencia Descubrir hechos a través de observaciones y exploraciones Organizar el conocimiento adquerido en representaciones eficientes... El objetivo: 1. Mejorar la efectividad de un sistema (realizar las tareas de forma mejor) 2. Mejorar la eficiencia de un sistema (realizar las tareas de forma más rápido o con menos coste computacional) 2

3 Aprendizaje por razonamiento inductivo Razonamiento inductivo: Inferir suposiciones generales a partir de (muchos) hechos concretos (aprendizaje) Ejemplo: El balón 1 bota al dejarlo caer El balón 2 bota al dejarlo caer El balón 3 bota al dejarlo caer... El balón 100 bota al dejarlo caer Entonces cualquier balón va a botar si lo dejo caer. El razonamiento inductivo nos permite realizar predicciones. Inferencia inductiva es un subcampo de aprendizaje automático Aprendizaje automático: posibles tareas Clasificación: clasificar productos de una fábrica en correctos y erróneos Predicción: predecir el tráfico en una ciudad Diagnostico: diagnosticar enfermedades de pacientes a partir de síntomas Agrupación: agrupar páginas Web en función de su contenido Caracterización: Determinar las características de las personas que compren determinados tipos de productos Mejorar la eficiencia: mejorar un robot que tiene que encontrar caminos a una determinada posición en un edificio para que encuentre los caminos más rápido Aprender funciones heurísticas 3

4 Tipos de AA: según la representación de datos Aprendizaje simbólico: Similar los procesos de la inteligencia a más alto nivel Representación de los datos por características y atributos Inferencia sigue el razonamiento lógico Ejemplo: Estado de trafico: (llueve, viernes, mucho trafico) Aprendizaje subsimbólico: Simular los procesos biológicos que intervienen en la inteligencia a bajo nivel (evolución de especies, funcionamiento de las neuronas, ) Representación subsimbolica de los datos, no directamente interpretable Inferencia y razonamiento por procesos no directamente relacionados con una lógica Ejemplo: Estado de trafico: ( ) Tipos de AA: según los datos disponibles Aprendizaje supervisado: Tenemos: un conjunto de ejemplos para los que conocemos los resultados Queremos: una regla que puede predecir los resultados Ejemplo: Predicción del tráfico en función del tiempo y del día (no llueve,viernes) mucho tráfico (llueve,domingo) poco tráfico (llueve,viernes) mucho tráfico (no llueve,jueves) mucho tráfico... Aprendizaje Hay mucho trafico si no llueve o si es viernes. 4

5 Tipos de AA: según los datos disponibles Aprendizaje no-supervisado: Tenemos: un conjunto de ejemplos (sin etiquetas) Queremos: un agrupamiento natural de los posibles casos Ejemplo: Aprendizaje Tipos de AA: según los datos disponibles Aprendizaje reforzado: Un agente actúa en un determinado contexto: el agente decide acciones y las ejecuta el entorno cambia debido a las acciones del agente el agente recibe feedback (retroalimentación) del entorno como respuesta a sus acciones el agente debe aprender a realizar acciones que le lleven a actuar mejor Estado A Estado A Acción 1 Entorno Entorno Acción 2 Entorno 5

6 Aprendizaje supervisado: Inferencia inductiva es aprendizaje supervisado Inferir/aprender suposiciones generales a partir de (muchos) hechos concretos (aprendizaje) Ejemplo: El balón 1 es rojo y bota al dejarlo caer El libro 1 es verde y no bota al dejarlo caer El balón 3 es azul y bota al dejarlo caer... El libro 70 verde y no bota al dejarlo caer... El balón 100 es rojo y bota al dejarlo caer El razonamiento inductivo nos permite realizar predicciones. Cualquier objeto que es un balón botará si lo dejo caer. Aprendizaje supervisado: notación básica Objetivo: aprender un cierto concepto objetivo (por ejemplo: determinados objetos botan al dejarles caer ) a partir de ejemplos de los que conocemos los resultados (p. e.: el libro verde nr. 1 no bota, el balón azul nr. 3 bota, ) Problema: tenemos una serie de ejemplos para el concepto objetivo especificados a través de características (atributos) que caracterizan el concepto objetivo encontrar una descripción del concepto objetivo (hipótesis) que I) concuerda con los datos presentados II) generaliza a casos nuevos 6

7 Aprendizaje supervisado: notación básica Matemáticamente: Suponemos que el concepto objetivo es una función f:x Y X es un espacio de entradas (posibles casos) (p.e.: {libro azul nr.1, balon verde nr. 555, }) Y el espacio de salidas (resultados) {p.e.:{bota, no bota}) Tenemos como entrada una secuencia de ejemplos de pares (entrada,salida): { (x 1,y 1 ), (x 2,y 2 ), } con x i X e y i Y p.e.:{(balón rojo nr.1, bota), (libro verde nr.1, no bota), } Objetivo de la maquina de aprendizaje: encontrar función h H que aproxime f, tal que: h(x i )=f(x i ) para todos (o la mayoría de los) ejemplos presentados h tenga expectativas de comportase igual (o similar) a f para casos aun desconocidos (generalización) H : espacio de hipótesis Formalización de un problema de aprendizaje supervisado Clase de problemas: Que se debe aprender? Cómo se representan elementos de esta clase? Información presentada (ejemplos de entrenamiento): Qué información se presenta y cómo? ejemplos positivos, negativos o ambos Espacio de las hipótesis: En qué lenguaje se presentan las hipótesis? Cuál es el conjunto de hipótesis? Algoritmo de aprendizaje: Qué algoritmo /arquitectura se usa? Características del aprendizaje Cuándo se ha aprendido? Cuándo se aprende correctamente? Convergencia de las hipótesis Hipótesis consistentes con los ejemplos presentados 7

8 Espacio de hipótesis Encontrar una hipótesis que: Concuerda con los ejemplos de entrenamiento Generaliza bien a casos aún desconocidos Cómo encontrar esta hipótesis h H? Hipótesis consistentes: y y y x x x Navaja de Ockham: Entre varias hipótesis posibles, preferir la hipótesis más sencilla. Espacio de hipótesis Compromiso entre la expresividad del espacio de hipótesis y la complejidad de encontrar hipótesis sencillas y consistentes Espacios amplios: p.e.: todas las funciones computables (todos los programas en pascal) Se suele utilizar solamente en consideraciones teóricas sobre el aprendizaje Espacios reducidos y más sencillos: Se suele utilizar en algoritmos concretos de aprendizaje Realizabilidad de aprendizaje: El aprendizaje es realizable si f H El aprendizaje es irrealizable si f H A la hora de aplicar un algoritmo de aprendizaje hay que emplear conocimiento a priori para asegurar que H incluya a f 8

9 Clasificación: Clasificación f:x Y, Y es discreto Clasificación binaria: Problema: decidir la pertenencia de casos a una clase f:x {0,1} Posible información presentada (ejemplos de entrenamiento): Casos positivos: (x,1) (x pertenece a la clase) Casos negativos: (x,0) (x no pertenece a la clase) La clasificación binaria tiene muchas aplicaciones reales: Frecuentemente se identifica aprendizaje supervisada con la clasificación Clasificación discreta vs. Clasificación binaria Clasificación con varias clases puede reducirse a clasificación binaria: Ejemplo: Clasificar objetos en {rectángulos, redondos, triángulos} Ejemplos de entrenamiento: ((3,ro),tri) ((0,az),red) ((4,bl),rect) ((0,bl),red) ((4,am),rect) Idea: 1. encontrar h 1 :X {rect,otros} sobre todos los ejemplos de entrenamiento (h 1 clasifica objetos en rectángulos u otros objetos) ((3,ro),tri) ((0,az),red) ((0,bl),red) ((4,bl),rect) ((4,am),rect) 2. encontrar h 2 :X {red,tri} sobre los ejemplos de entrenamiento clasificados por h 1 como otros (aprender un clasificador que diferencia entre triángulos y objetos redondos) ((3,ro),tri) ((0,az),red) ((0,bl),red) ((4,bl),rect) ((4,am),rect) 9

10 Tema 3: Aprendizaje Automático Resumen: 3. Aprendizaje automático 3.1 Introducción al aprendizaje automático 3.2 Árboles de decisión 3.3 Redes neuronales Ejemplo Decidir si se puede dar una tarjeta de crédito a clientes de un banco Saldo act. Edad Saldo med. Años cliente Dar tarjeta? bajo <18 alto <1 no alto alto >1 si alto medio >1 no alto >25 bajo >1 no bajo >25 medio >1 si alto alto >1 si bajo alto <1 no medio <18 medio <1 no medio >25 alto <1 si Objetivo: aprender un clasificador de clientes 10

11 Árboles de decisión como clasificadores Un ejemplo: <18 NO edad saldo med. >25 saldo med. bajo, medio alto bajo medio alto NO NO saldo act. bajo, medio alto años cliente >1 <1 NO años cliente <1 >1 NO SI SI NO SI Clasificar un caso: (saldo act.=bajo, edad=>25, saldo med.=medio, años cliente=>1) Aprendizaje de árboles de decisión Problema: inducir (encontrar/aprender) árboles de decisión (hipótesis) a partir de ejemplos de entrenamiento Algoritmo 1: para cada ejemplo de entrenamiento añadir la rama completa del ejemplo Ejemplo 1: ((bajo,<18,alto,<1),no) saldo act. bajo edad <18 saldo med. alto años cliente <1 NO hipótesis 1 11

12 Aprendizaje de árboles de decisión Problema: inducir (encontrar/aprender) árboles de decisión (hipótesis) a partir de ejemplos de entrenamiento Algoritmo 1: para cada ejemplo de entrenamiento añadir la rama completa del ejemplo Ejemplo 1: ((bajo,<18,alto,<1),no) Ejemplo 2: ((alto,18-25,alto,>1),si) Las hipótesis concuerdan con los ejemplos, pero: no generalizan a casos nuevos saldo act. bajo edad <18 saldo med. alto años cliente <1 NO hipótesis 2 alto edad saldo med. alto años cliente >1 SI Aprendizaje de árboles de decisión Algoritmo de aprendizaje de árboles de decisión: crear el árbol de forma recursiva de arriba abajo utilizar en cada nodos el atributo más importante el atributo más importante es él que mejor discrimina los ejemplos que han llegado hasta este nodo clasifica los ejemplos y sigue en el siguiente nivel {(E1,si),(E2,si),(E3,no),(E4,no),(E5,si), } A 2 A 1 A 1 =a A 1 =b {(E1,si),(E2,si),(E4,no), } A 2 =c {(E1,si),(E2,si)} A 2 =d {(E4,no), } {(E3,no),(E5,si), } 12

13 Aprendizaje de árboles de decisión: algoritmo 1. Seleccionar el mejor atributo A i 2. Crear un nodo para ese atributo con tantos sucesores como valores tenga 3. Introducir los ejemplos en los sucesores según el valor que tenga el atributo A i 4. Por cada sucesor, Si sólo hay ejemplos de una clase c k entonces etiquetarlo con c k Si no, llamar recursivamente el algoritmo con una tabla formada por los ejemplos de ese nodo, eliminando la columna del atributo A i Aprendizaje de árboles de decisión: ejemplo Ej.: edad s_a s_m tarjeta E1 <18 alto alto NO E2 <18 bajo bajo NO E alto alto SI E bajo alto SI E alto bajo NO E bajo bajo NO {E1,E2,E3,E4,E5,E6} edad < >25 NO s_m NO {E1,E2} {E3,E4,E5,E6} {} alto bajo medio SI NO SI/NO {E3,E4} {E5,E6} {} 13

14 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Elección basada en la entropía de un atributo mide en contenido de información en bits Cuántos bits hacen falta para codificar una respuesta que pueda tener n valores distintos y cada valor r i tiene una probabilidad P(r i ) I[P(r 1 ),,P(r n )] = - P(r i ) log 2 [P(r i )] Para el conjunto de ejemplos E y el concepto dar tarjeta : r 1 =SI, r 2 =NO I[P(SI),P(NO)] = -2/4 log 2 [2/4] -2/4 log 2 [2/4] = 1 Aprendizaje de árboles de decisión: elección de los atributos La entropía se puede entender como el grado de desorden o la variabilidad de una fuente de información (aquí: los ejemplos) Mucho desorden: P(r 1 ) = P(r 2 ) = = P(r n )=1/n mucha entropía poca información Poco desorden: P(r 1 ) = P(r 2 ) = P(r m-1 )= P(r m+1 )= = P(r n )=0 P(r m )=1 poca entropía mucha información P(x) P(x) x 1 x 2 x N x 1 x 2 x N I[P(r 1 ),,P(r n )] = - log 2 [1/n] I[P(r 1 ),,P(r n )] = 0 14

15 Aprendizaje de árboles de decisión: elección de los atributos El concepto objetivo tiene valores r 1,,r n (p.ej.: r 1 =SI, r 2 =NO) Cada atributo A k A tiene una serie de posibles valores v 1,,v m.. Estos dividen los ejemplos del conjunto E en m subconjuntos E 1,,E m : p. e.: A k = edad, v 1 = <18, v 2 = 18-25, v 3 = >25, E 1 ={Ej1,Ej2}, E 2 ={Ej3}, E 3 ={Ej4} Procedimiento para elegir el mejor atributo: Paso 1: Calcula la entropía de E: I E [P(r 1 ),,P(r n )] = i - P(r i ) log 2 [P(r i )] Paso 2: Para cada A k, se calcula la entropía de los subconjuntos E i : I Ei [P(r 1 v i ),,P(r n v i )] = j - P(r j v i ) log 2 [P(r j v i )] Paso 3: Para cada A k, se calcula la cantidad de entropía del atributo: I(A k ) = j P(v j ) I Ej [P(r 1 v j ),,P(r n v j )] Paso 4: Elegir aquel atributo que obtiene la mayor ganancia de información: Ganancia(A k ) = I E - I(A k ) Aprendizaje de árboles de decisión: elección de los atributos, ejemplo E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Paso 1: Calcula la entropía de E: I[P(SI),P(NO)] = -2/4 log 2 [2/4] -2/4 log 2 [2/4] = 1 15

16 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Paso 2: Para cada A k, se calcula la entropía de los subconjuntos E i : Ejemplo: edad E={Ej1,Ej2,Ej3,Ej4} edad < >25 E 1 ={Ej1,Ej2} E 2 ={Ej3} E 3 ={Ej4} I[P(SI <18),P(NO <18)] = -0/2 log 2 [0/2] -2/2 log 2 [2/2] = 0 I[P(SI 18-25),P(NO 18-25)] = -1/1 log 2 [1/1] -0/1 log 2 [0/1] = 0 I[P(SI >25),P(NO >25)] = -1/1 log 2 [1/1] -0/1 log 2 [0/1] = 0 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Cuál es el mejor atributo: s_a o edad? Paso 2: Para cada A k, se calcula la entropía de los subconjuntos E i : Ejemplo: s_a E={Ej1,Ej2,Ej3,Ej4} bajo s_a mediano E 1 ={Ej1} E 2 ={Ej3} E 3 ={Ej2, Ej4} alto I[P(SI bajo),p(no bajo)] = -0/1 log 2 [0/1] -1/1 log 2 [1/1] = 0 I[P(SI med),p(no med)] = -1/1 log 2 [1/1] -0/1 log 2 [0/1] = 0 I[P(SI alto),p(no alto)] = -1/2 log 2 [1/2] -1/2 log 2 [1/2] = 1 16

17 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Cuál es el mejor atributo: s_a o edad? Ej4 >25 alto SI Paso 3: Para cada A k,, calcular I(A k ): I[edad] = P(<18) I[P(SI <18),P(NO <18)] + P(18-25) I[P(SI 18-25),P(NO 18-25)] + P(>25) I[P(SI >25),P(NO >25)] = 2/ / /4 0 = 0 I[s_a] = P(bajo) I[P(SI bajo),p(no bajo)] + P(med) I[P(SI med),p(no med)] + P(alto) I[P(SI alto),p(no alto)] = 1/ / /4 1 = 0.5 Aprendizaje de árboles de decisión: elección de los atributos E edad s_a tarjeta Ej1 <18 bajo NO Ej2 <18 alto NO Ej mediano SI Ej4 >25 alto SI Paso 4: Elegir el atributo con mayor ganancia de información: Cuál es el mejor atributo: s_a o edad? Ganancia(edad) = I E - I(edad) = 1 0 = 1 Ganancia(s_a) = I E - I(s_a) = = 0.5 Como cabe esperar se elige el atributo edad 17

18 Aprendizaje de árboles de decisión: Comentarios Ventajas: decisiones basadas en la estadística (es capaz de tratar ruido) Los clasificadores aprendidos (árboles de decisión) son fácilmente interpretables Problemas: mantiene una hipótesis única /no es capaz de aprender de forma incremental (si se tienen nuevos ejemplos hay que calcular el árbol de nuevo) tratamientos de valores continuos, o atributos con un gran número de valores discretos tratamiento de valores desconocidos (información incompleta) partes del árbol duplicado árboles exponenciales para determinadas funciones overfitting: generar árboles demasiado específicos ( Cuándo se debe parar de dividir los nodos?) Ejercicio Aprendizaje de árboles de decisión: Aplique el algoritmo de aprendizaje de árboles de decisión al siguiente conjunto de ejemplos. Especifique el árbol aprendido y los valores de ganancia de los atributos elegidos en los diferentes nodos. Pelo Altura Peso Protección Quemadura rubio medio bajo no sí rubio alto medio sí no moreno bajo medio sí no rubio bajo medio no si rojo medio alto no si moreno alto alto no no moreno medio alto no no rubio bajo bajo sí no 18

19 Evaluación de métodos de aprendizaje Evaluación empírica No se puede evaluar un clasificador con los mismos ejemplos que se han utilizado para el entrenamiento Colecciones de pruebas: contienen un conjunto de ejemplos de entrenamiento ML repository: Un clasificador clasifica un conjunto de casos de la siguiente forma: Ejemplos pos. Ejemplos neg. Clasificados como positivos TP FP Clasificados como negativos FN TN TP: true positives (clasificado: positivo, realidad: positivo) TN: true negatives (clasificado: negativo, realidad: negativo) FP: false positives (clasificado: positivo, realidad: negativo) FN: false negatives (clasificado: negativo, realidad: positivo) Evaluación de métodos de aprendizaje Medidas (más comunes) de evaluación: true positive rate (sensitivity, recall): [0,,1]; ideal=1 TP clasificados correctamente como positivos tpr = = TP + FN todos los positivos false positive rate: [0,,1]; ideal=0 FP clasificados erroneamente como positivos fpr = = FP + TN todos los negativos precision: [0,,1]; ideal=1 TP precision = TP + FP corrección:[0,,1]; ideal=1 TP + TN correccion = TP + FP + TN + FN clasificados correctamente como positivos = todos los clasificados como positivos clasificados correctamente = todos los ejemplos para que el clasificador sea útil debe tener una corrección>0,5 19

20 Evaluación de métodos de aprendizaje Hay dos tipos de errores falsos positivos falsos negativos En algunos dominios es más grave un error que otro: Ejemplo: diagnostico de cáncer es muy importante identificar todos los pacientes que tienen cáncer no importa (demasiado) si se diagnostica cáncer a una persona que no lo tiene hay que evitar falsos negativos el true positive rate tiene que ser alto Evaluación de métodos de aprendizaje Aumentar el true positive rate es muy fácil Por ejemplo: TP 9 tpr = = = 1 TP + FN TP 6 tpr = = = 0,66 TP+ FN 6+ 3 Entonces true_positive_rate =1 (muy bien), pero false_positive_rate=1 (muy mal) Es importante encontrar un equilibrio entre ambas medidas Ideal: true_positive_rate=1 y false_positive_rate=0 20