Aprendizaje inductivo: árboles y reglas de decisión

Transcripción

1 M. A. Gutiérrez Naranjo F. J. Martín Mateos J. L. Ruiz Reina Dpto. Ciencias de la Computación e Inteligencia Artificial Universidad de Sevilla

2 Contenido Introducción Árboles de decisión: El algoritmo ID3 Entropía e información Búsqueda y sesgo inductivo Sobreajuste y ruido Poda y otras cuestiones Reglas: Reglas proposicionales Algoritmo de cobertura para aprendizaje de reglas proposicionales Reglas de primer orden: programación lógica inductiva El algoritmo FOIL

3 Aprendizaje Definiciones de aprendizaje: Cualquier cambio en un sistema que le permita realizar la misma tarea de manera más eficiente la próxima vez (H. Simon) Modificar la representación del mundo que se está percibiendo (R. Michalski) Realizar cambios útiles en nuestras mentes (M. Minsky) Aprendizaje automático: construir programas que mejoran automáticamente con la experiencia Ejemplos de tareas: Construcción de bases de conocimiento a partir de la experiencia Clasificación y diagnóstico Minería de datos, descubrir estructuras desconocidas en grandes grupos de datos Resolución de problemas, planificación y acción

4 Tipos de aprendizaje y paradigmas Tipos de aprendizaje Supervisado No supervisado Con refuerzo Paradigmas Aprendizaje por memorización Clasificación (Clustering) Aprendizaje inductivo Aprendizaje por analogía Descubrimiento Algoritmos genéticos, redes neuronales

5 Aprendizaje supervisado (ejemplo) Conjunto de entrenamiento Ejemplos: días en los que es recomendable (o no) jugar al tenis Representación como una lista de pares atributo valor Ej. Cielo Temperatura Humedad Viento JugarTenis D 1 Soleado Alta Alta Débil - D 2 Soleado Alta Alta Fuerte - D 3 Nublado Alta Alta Débil + D 4 Lluvia Suave Alta Débil +... Objetivo: Dado el conjunto de entrenamiento, aprender el concepto Días en los que se juega al tenis Problema: Cómo expresar lo aprendido? En este tema, veremos algoritmos para aprender árboles de decisión y para aprender reglas

6 Árboles de decisión Ejemplos de árboles de decisión Cielo Soleado Nublado Lluvia Humedad + Viento Alta Normal Fuerte Debil + +

7 Árboles de decisión Ejemplos de árboles de decisión Color Rojo Verde Azul Tamaño Forma Grande Pequeño Redondo Cuadrado + Tamaño + Grande Pequeño +

8 Árboles de decisión Árboles de decisión Nodos interiores: atributos Arcos: posibles valores del nodo origen Hojas: valor de clasificación (usualmente + ó, aunque podría ser cualquier conjunto de valores, no necesariamente binario) Representación de una función objetivo Disyunción de reglas proposicionales: (Cielo=Soleado Humedad=Alta JugarTenis= ) (Cielo=Soleado Humedad=Normal JugarTenis= +) (Cielo=Nublado JugarTenis= +) (Cielo=Lluvioso Viento=Fuerte JugarTenis= ) (Cielo=Lluvioso Viento=Debil JugarTenis= +) Capaz de representar cualquier subconjunto de instancias

9 Aprendizaje de árboles de decisión Objetivo: aprender un árbol de decisión consistente con los ejemplos, para posteriormente clasificar ejemplos nuevos Ejemplo de conjunto de entrenamiento: Ej. Cielo Temperatura Humedad Viento JugarTenis D 1 Soleado Alta Alta Débil - D 2 Soleado Alta Alta Fuerte - D 3 Nublado Alta Alta Débil + D 4 Lluvia Suave Alta Débil +...

10 Algoritmo ID3 Algoritmo ID3 ID3(Ejemplos, Atributo-objetivo, Atributos) 1. Si todos los Ejemplos son positivos, devolver un nodo etiquetado con + 2. Si todos los Ejemplos son negativos, devolver un nodo etiquetado con - 3. Si Atributos está vacío, devolver un nodo etiquetado con el valor más frecuente de Atributo-objetivo en Ejemplos. 4. En otro caso: 4.1. Sea A el atributo de Atributos que MEJOR clasifica Ejemplos 4.2. Crear Árbol, con un nodo etiquetado con A Para cada posible valor v de A, hacer: * Añadir un arco a Árbol, etiquetado con v. * Sea Ejemplos(v) el subconjunto de Ejemplos con valor del atributo A igual a v. * Si Ejemplos(v) es vacío: - Entonces colocar debajo del arco anterior un nodo etiquetado con el valor más frecuente de Atributo-objetivo en Ejemplos. - Si no, colocar debajo del arco anterior el subárbol ID3(Ejemplos(v), Atributo-objetivo, Atributos-{A}). 4.4 Devolver Árbol

11 Cómo saber qué atributo clasifica mejor? Entropía de un conjunto de ejemplos D (resp. de una clasificación): Ent(D) = P D log 2 P D N D log 2 N D donde P y N son, respectivamente, los subconjuntos de ejemplos positivos y negativos de D Notación: Ent([p +,n ]), donde p = P y n = N Intuición: Mide la ausencia de homegeneidad de la clasificación Teoría de la Información: cantidad media de información (en bits) necesaria para codificar la clasificación de un ejemplo Ejemplos: Ent([9 +,5 ]) = 9 14 log log = 0,94 Ent([k +,k ]) = 1 (ausencia total de homogeneidad) Ent([p +,0 ]) = Ent([0 +,n ]) = 0 (homogeneidad total)

12 Ganancia de información Preferimos nodos con menos entropía (árboles pequeños) Entropía esperada después de usar un atributo A en el árbol: D v v Valores(A) Ent(D D v ) donde D v es el subconjunto de ejemplos de D con valor del atributo A igual a v Ganancia de información esperada después de usar un atributo A: Ganancia(D,A) = Ent(D) D v v Valores(A) Ent(D D v ) En el algoritmo ID3, en cada nodo usamos el atributo con mayor ganancia de información (considerando los ejemplos correspondientes al nodo)

13 Algoritmo ID3 (ejemplo 1) Conjunto de entrenamiento: Ej. Cielo Temperatura Humedad Viento JugarTenis D 1 Soleado Alta Alta Débil - D 2 Soleado Alta Alta Fuerte - D 3 Nublado Alta Alta Débil + D 4 Lluvia Suave Alta Débil + D 5 Lluvia Baja Normal Débil + D 6 Lluvia Baja Normal Fuerte - D 7 Nublado Baja Normal Fuerte + D 8 Soleado Suave Alta Débil - D 9 Soleado Baja Normal Débil + D 10 Lluvia Suave Normal Débil + D 11 Soleado Suave Normal Fuerte + D 12 Nublado Suave Alta Fuerte + D 13 Nublado Alta Normal Débil + D 14 Lluvia Suave Alta Fuerte -

14 Algoritmo ID3 (ejemplo 1) Humedad Viento Alta Normal Fuerte Debil [3 +,4 ] [6 +,1 ] [6 +,2 ] [3 +,3 ] Cielo Temperatura Soleado Nublado Lluvia Alta Suave Baja [2 +,3 ] [4 +,0 ] [3 +,2 ] [2 +,2 ] [4 +,2 ] [3 +,1 ]

15 Algoritmo ID3 (ejemplo 1) Entropía inicial: Ent([9 +,5 ]) = 0,94 Selección del atributo para el nodo raíz: Ganancia(D,Humedad) = 0, Ent([3+,4 ]) 7 14 Ent([6+,1 ]) = 0,151 Ganancia(D,Viento) = 0, Ent([6+,2 ]) 6 14 Ent([3+,3 ]) = 0,048 Ganancia(D,Cielo) = 0, Ent([2+,3 ]) 4 14 Ent([4+,0 ]) 5 14 Ent([3+,2 ]) = 0,246 (mejor atributo) Ganancia(D,Temperatura) = 0, Ent([2+,2 ]) 6 14 Ent([4+,2 ]) 4 14 Ent([3+,1 ]) = 0,02 El atributo seleccionado es Cielo

16 Algoritmo ID3 (ejemplo 1) Árbol parcialmente construido: Cielo Soleado Nublado Lluvia? +?

17 Algoritmo ID3 (ejemplo 1) Selección del atributo para el nodo Cielo=Soleado D Soleado = {D 1,D 2,D 8,D 9,D 11 } con entropía Ent([2 +,3 ]) = 0,971 Ganancia(D Soleado,Humedad) = 0, = 0,971 (mejor atributo) 5 Ganancia(D Soleado,Temperatura) = 0, = 0,570 Ganancia(D Soleado,Viento) = 0, ,918 = 0,019 5 El atributo seleccionado es Humedad

18 Algoritmo ID3 (ejemplo 1) Selección del atributo para el nodo Cielo=Lluvia: D Lluvia = {D 4,D 5,D 6,D 10,D 14 } con entropía Ent([3 +,2 ]) = 0,971 Ganancia(D Lluvia,Humedad) = 0, ,918 = 0,820 5 Ganancia(D Lluvia,Temperatura) = 0, , = 0,820 Ganancia(D Lluvia,Viento) = 0, = 0,971 (mejor atributo) 5 El atributo seleccionado es Viento

19 Algoritmo ID3 (ejemplo 1) Árbol finalmente aprendido: Cielo Soleado Nublado Lluvia Humedad + Viento Alta Normal Fuerte Debil + +

20 Algoritmo ID3 (ejemplo 2) Conjunto de entrenamiento: Ej. Color Forma Tamaño Clase O 1 Rojo Cuadrado Grande + O 2 Azul Cuadrado Grande + O 3 Rojo Redondo Pequeño - O 4 Verde Cuadrado Pequeño - O 5 Rojo Redondo Grande + O 6 Verde Cuadrado Grande -

21 Algoritmo ID3 (ejemplo 2) Entropía inicial en el ejemplo de los objetos, Ent([3 +,3 ]) = 1 Selección del atributo para el nodo raíz: Ganancia(D,Color) = Ent([2+,1 ]) 1 6 Ent([1+,0 ]) 2 6 Ent([0+,2 ]) = 0,543 Ganancia(D,Forma) = Ent([2+,2 ]) 2 6 Ent([1+,1 ]) = 0 Ganancia(D,Tamaño) = Ent([3+,1 ]) 2 6 Ent([0+,2 ]) = 0,459 El atributo seleccionado es Color

22 Algoritmo ID3 (ejemplo 2) Árbol parcialmente construido: Color Rojo Verde Azul? +

23 Algoritmo ID3 (ejemplo 2) Selección del atributo para el nodo Color=Rojo: D Rojo = {O 1,O 3,O 5 } con entropía Ent([2 +,1 ]) = 0,914 Ganancia(D Rojo,Forma) = 0, Ent([1+,0 ]) 2 3 Ent([1+,1 ]) = 0,247 Ganancia(D Rojo,Tamaño) = 0, Ent([2+,0 ]) 1 3 Ent([0+,1 ]) = 0,914 El atributo seleccionado es Tamaño

24 Algoritmo ID3 (ejemplo 2) Árbol finalmente aprendido: Color Rojo Verde Azul Tamaño + Grande Pequeño +

25 Búsqueda y sesgo inductivo Búsqueda en un espacio de hipótesis Espacio de todos los árboles de decisión Un único árbol candidato en cada paso Sin retroceso (peligro de óptimos locales), búsqueda en escalada Decisiones tomadas a partir de conjuntos de ejemplos Sesgo inductivo Se prefieren árboles más cortos sobre los más largos Sesgo preferencial, impĺıcito en la búsqueda Principio de la navaja de Occam

26 Medida del rendimiento del aprendizaje Conjunto de entrenamiento y conjunto de prueba Aprender con el conjunto de entrenamiento Medida del rendimiento: proporción de ejemplos bien clasificados en el conjunto de prueba Repetición de este proceso Curva de aprendizaje Estratificación: cada clase correctamente representada en el entrenamiento y en la prueba Validación cruzada Dividir en k partes, y hace k aprendizajes, cada uno de ellos tomando como prueba una de las partes y entrenamiento el resto. Finalmente hacer la media de los rendimientos. En la práctica: validación cruzada, con k = 10 y estratificación

27 Sobreajuste y ruido Una hipótesis h H sobreajusta los ejemplos de entrenamiento si existe h H que se ajusta peor que h a los ejemplos pero actúa mejor sobre la distribución completa de instancias. Ruido: ejemplos incorrectamente clasificados. Causa sobreajuste Ejemplo: supongamos que por error, se incluye el ejemplo <Azul,Redondo,Pequeno> como ejemplo negativo El árbol aprendido en este caso sería (sobrejustado a los datos): Color Color Rojo Verde Tamaño Grande Pequeño + Azul + Grande Tamaño Rojo Verde Pequeño Redondo Azul Forma + + Cuadrado

28 Sobreajuste y ruido Otras causas de sobreajuste: Atributos que en los ejemplos presentan una aparente regularidad pero que no son relevantes en realidad Conjuntos de entrenamiento pequeños Maneras de evitar el sobreajuste: Parar el desarrollo del árbol antes de que se ajuste perfectamente a todos los datos Podar el árbol a posteriori Poda a posteriori, dos aproximaciones: Transformación a reglas, podado de las condiciones de las reglas Realizar podas directamente en el árbol Las podas se producen siempre que reduzcan el error sobre un conjunto de prueba

29 Podado de árboles Algoritmo de poda para reducir el error 1. Dividir el conjunto de ejemplos en Entrenamiento y Prueba 2. Árbol=árbol obtenido por ID3 usando Entrenamiento 3. Continuar=True 4. Mientras Continuar: * Medida = proporción de ejemplos en Prueba correctamente clasificados por Árbol * Por cada nodo interior N de Árbol: - Podar temporalmente Árbol en el nodo N y sustituirlo por una hoja etiquetada con la clasificación mayoritaria en ese nodo - Medir la proporción de ejemplos correctamente clasificados en el conjunto de prueba. * Sea K el nodo cuya poda produce mejor rendimiento * Si este rendimiento es mejor que Medida, entonces Árbol = resultado de podar permanentemente Árbol en K * Si no, Continuar=Falso 5. Devolver Árbol

30 Otras cuestiones prácticas del algoritmo ID3 Extensiones del algoritmo: Atributos con valores contínuos Otras medidas para seleccionar atributos Otras estimaciones de error Atributos sin valores Atributos con coste Algoritmos C4.5 y C5.0 (Quinlan)

31 Cambiando la salida: reglas proposicionales Reglas de clasificación: R1: Si Cielo=Soleado Humedad=Alta Entonces JugarTenis= R2: Si Astigmatismo= + Lagrima=Normal Entonces Lente=Rigida Ventaja de usar el formalismo de reglas Claridad Modularidad Expresividad: pueden representar cualquier conjunto de instancias Métodos generalizables a primer orden de manera natural Formalismo usado en sistemas basados en el conocimiento Reglas y árboles de decisión Fácil traducción de árbol a reglas, pero no a la inversa

32 Aprendizaje de reglas Objetivo: aprender un conjunto de reglas consistente con los ejemplos Una regla cubre un ejemplo si el ejemplo satisface las condiciones Lo cubre correctamente si además el valor del atributo en la conclusión de la regla coincide con el valor que el ejemplo toma en ese atributo Una medida del ajuste de una regla R a un conjunto de ejemplos D: Frecuencia relativa: p/t (donde t = ejemplos cubiertos por R en D, p = ejemplos correctamente cubiertos). Notación: FR(R, D) Algoritmos de aprendizaje de reglas: ID3 + traducción a reglas Cobertura Algoritmos genéticos

33 Un conjunto de entrenamiento Ej. Edad Dignostico Astigmatismo Lagrima Lente E 1 Joven Miope - Reducida Ninguna E 2 Joven Miope - Normal Blanda E 3 Joven Miope + Reducida Ninguna E 4 Joven Miope + Normal Rígida E 5 Joven Hipermétrope - Reducida Ninguna E 6 Joven Hipermétrope - Normal Blanda E 7 Joven Hipermétrope + Reducida Ninguna E 8 Joven Hipermétrope + Normal Rígida E 9 PrePresbicia Miope - Reducida Ninguna E 10 PrePresbicia Miope - Normal Blanda E 11 PrePresbicia Miope + Reducida Ninguna E 12 PrePresbicia Miope + Normal Rígida E 13 PrePresbicia Hipermétrope - Reducida Ninguna E 14 PrePresbicia Hipermétrope - Normal Blanda E 15 PrePresbicia Hipermétrope + Reducida Ninguna E 16 PrePresbicia Hipermétrope + Normal Ninguna

34 Un conjunto de entrenamiento Ej. Edad Dignostico Astigmatismo Lagrima Lente E 17 Presbicia Miope - Reducida Ninguna E 18 Presbicia Miope - Normal Ninguna E 19 Presbicia Miope + Reducida Ninguna E 20 Presbicia Miope + Normal Rígida E 21 Presbicia Hipermétrope - Reducida Ninguna E 22 Presbicia Hipermétrope - Normal Blanda E 23 Presbicia Hipermétrope + Reducida Ninguna E 24 Presbicia Hipermétrope + Normal Ninguna R2: Si Astigmatismo= + Lagrima=Normal Entonces Lente=Rigida R2 cubre E 4, E 8, E 12, E 16, E 20 y E 24, de los cuales cubre correctamente E 4, E 8, E 12 y E 20

35 Aprendiendo reglas que cubren ejemplos Aprender una regla para clasificar Lente=Rigida Si? Entonces Lente=Rigida Alternativas para?, y frecuencia relativa de la regla resultante Edad=Joven 2/8 Edad=PrePresbicia 1/8 Edad=Presbicia 1/8 Diagnostico=Miopía 3/12 Diagnostico=Hipermetropía 1/12 Astigmatismo= 0/12 Astigmatismo= + 4/12 * Lágrima=Reducida 0/12 Lágrima=Normal 4/12 * Regla parcialmente aprendida Si Astigmatismo= + Entonces Lente=Rigida

36 Aprendiendo reglas que cubren ejemplos Continuamos para excluir ejemplos cubiertos incorrectamente Si Astigmatismo=+? Entonces Lente=Rigida Alternativas para?, y frecuencia relativa de la regla resultante Edad=Joven 2/4 Edad=PrePresbicia 1/4 Edad=Presbicia 1/4 Diagnostico=Miopía 3/6 Diagnostico=Hipermetropía 1/6 Lágrima=Reducida 0/6 Lágrima=Normal 4/6 * Regla parcialmente aprendida Si Astigmatismo= + Lagrima=Normal Entonces Lente=Rigida

37 Aprendiendo reglas que cubren ejemplos Continuamos para excluir ejemplos cubiertos incorrectamente Si Astigmatismo= + Lagrima=Normal? Entonces Lente=Rigida Alternativas para?, y frecuencia relativa de la regla resultante Edad=Joven 2/2 * Edad=PrePresbicia 1/2 Edad=Presbicia 1/2 Diagnostico=Miopía 3/3 * Diagnostico=Hipermetropía 1/3 Regla finalmente aprendida (no cubre incorrectamente ningún ejemplo) Si Astigmatismo= + Lagrima=Normal Diagnostico=Miopia Entonces Lente=Rigida

38 Aprendiendo reglas que cubren ejemplos Queda un ejemplo con Lente=Rigida no cubierto por R2 Comenzamos otra vez con Si? Entonces Lente=Rigida, pero ahora con D = D \ {E 4,E 12,E 20 } Reglas finalmente aprendidas para Lente=Rigida: R1: Si Astigmatismo= + Lagrima=Normal Diagnostico=Miopia Entonces Lente=Rigida R2: Si Edad=Joven Astigmatismo= + Lagrima=Normal Entonces Lente=Rigida Cubren correctamente los 4 ejemplos de Lente=Rigida (y se solapan) Ahora se podría continuar para aprender reglas que clasifiquen: Lente=Blanda Lente=Ninguna

39 Algoritmo de aprendizaje de reglas por cobertura Algoritmo de aprendizaje por cobertura Aprendizaje-por-Cobertura(D,Atributo,v) 1. Hacer Reglas-aprendidas igual a vacío 2. Hacer E igual a D 3. Mientras E contenga ejemplos cuyo valor de Atributo es v, hacer: 3.1 Crear una regla R sin condiciones y conclusión Atributo=v 3.2 Mientras que haya en E ejemplos cubiertos por R incorrectamente o no queden atributos que usar, hacer: Elegir la MEJOR condición A=w para añadir a R, donde A es un atributo que no aparece en R y w es un valor de los posibles que puede tomar A Actualizar R añadiendo la condición A=w a R 3.3 Incluir R en Reglas-aprendidas 3.4 Actualizar E quitando los ejemplos cubiertos por R 4. Devolver Reglas-Aprendidas Algoritmo para aprender un conjunto de reglas (a partir de D) Reglas para predecir situaciones en las que un Atributo dado toma un valor v

40 Control en el algoritmo de cobertura Bucle externo: Añade reglas (la hipótesis se generaliza) Cada regla añadida cubre algunos ejemplos correctamente Elimina en cada vuelta los ejemplos cubiertos por la regla añadida Y se añaden reglas mientras queden ejemplos sin cubrir Bucle interno: Añade condiciones a la regla (la regla se especializa) Cada nueva condición excluye ejemplos cubiertos incorrectamente Y esto se hace mientras haya ejemplos incorrectamente cubiertos Cobertura frente a ID3 Aprende una regla cada vez, ID3 lo hace simultáneamente ID3: elecciones de atributos Cobertura: elcciones de parejas atributo-valor

41 Algoritmo de cobertura (propiedades) Diferentes criterios para elegir la mejor condición en cada vuelta del bucle interno: Se añade la condición que produzca la regla con mayor frecuencia relativa (como en el ejemplo) Se añade la que produzca mayor ganancia de información: p p (log 2 t log 2 p t ) donde p /t es la frecuencia relativa después de añadir la condición y p/t es la frecuencia relativa antes de añadir la condición Las reglas aprendidas por el algoritmo de cobertura se ajustan perfectamente al conjunto de entrenamiento (peligro de sobreajuste) Podado de las reglas a posteriori Eliminar progresivamente condiciones hasta que no se produzca mejora Criterio probabiĺıstico para decidir la mejora

42 Insuficiencia expresiva de las reglas proposicionales Ejemplo: Aprender el concepto ser hija de a partir de una base de datos de relaciones entre miembros de una familia, con ejemplos positivos y negativos del concepto Dificultad de ser expresado en el modelo proposicional de pares atributo-valor Formalización del ejemplo en lógica de primer orden Ejemplos positivos: (maria,ana), (eva,tomas) Ejemplos negativos: (tomas,ana), (eva,ana), (eva,ignacio) Conocimiento base: hombre(tomas), hombre(ignacio) mujer(ana), mujer(eva), mujer(maria), progenitor(ana,maria), progenitor(ana,tomas), progenitor(tomas,eva), progenitor(tomas,ignacio)

43 Programación Lógica Inductiva Datos: Ejemplos positivos: E Ejemplos negativos: E Conocimiento base: T Lenguaje de hipótesis: L Condiciones: Necesidad a priori: ( e E )[T e ] Consistencia a priori: ( e E )[T e ] Objetivo: Encontrar un conjunto finito H L tal que se cumplan Suficiencia a posteriori: ( e E )[T H e ] Consistencia a posteriori: ( e E )[T H e ]

44 Terminología en PLI Se aprenden relaciones (o predicados) en lugar de pares atributo-valor Los ejemplos vienen dados por tuplas de constantes sobre los que la relación es cierta o falsa (eva,tomas) es un ejemplo positivo de la relación ser hija de y (tomas,ana) un ejemplo negativo Una regla cubre un ejemplo si el ejemplo satisface las condiciones de la regla. La regla hija(a,b) :- progenitor(b,a), mujer(a) cubre el ejemplo (maria,ana) y no cubre el ejemplo (eva,ignacio) Una regla cubre correctamente un ejemplo si y sólo si éste es positivo Objetivo: Encontrar un conjunto de reglas PROLOG que cubra todos los ejemplos positivos y ninguno negativo

45 El algoritmo FOIL Algoritmo FOIL FOIL(Ejemplos,Conocimiento-base,Predicado-objetivo) 1. Hacer Reglas-aprendidas igual a vacío 2. Hacer E igual a Ejemplos 3. Mientras E contenga ejemplos positivos, hacer: 3.1 Crear una regla R sin cuerpo y con cabeza P(X1,...,Xn) (donde P es el Predicado-objetivo y n su aridad) 3.2 Mientras que haya en E ejemplos negativos cubiertos por R: GENERAR todos los posibles literales que pueden ser añadidos al cuerpo de la regla R De todos ellos, sea L el MEJOR Actualizar R añadiendo el literal L al cuerpo de R 3.3 Incluir R en Reglas-aprendidas 3.4 Actualizar E quitando los ejemplos cubiertos por R 4. Devolver Reglas-Aprendidas Debemos precisar GENERAR y MEJOR

46 Generación de nuevos literales en FOIL Literales tomados de los predicados del conocimiento base: De la forma Q(x 1,...,x n ) donde Q es un predicado del conocimiento base y x i son variables de la regla que se quiere extender o nuevas (al menos una de las variables ha de estar en la regla) Para ampliar la regla hija(a,b) :- podemos usar: hombre(a), hombre(b), mujer(a), mujer(b), progenitor(c,a), progenitor(a,c), progenitor(c,b), progenitor(b,c), progenitor(a,a), progenitor(b,a), progenitor(a,b), progenitor(b,b) Literales de igualdad entre las variables que aparecen en la regla Negaciones de los anteriores

47 Elección del mejor literal El criterio más usado: Dada una regla R y un literal L medimos la mejora producida en la cobertura al añadir un nuevo literal L a R para obtener una nueva regla R Se elige el que produzca mayor ganancia de información: p t (log p 2 log p +n 2 p+n ) donde R cubre p ejemplos positivos y n negativos, R cubre p ejemplos positivos y n negativos y t es el número de ejemplos positivos cubiertos por R que siguen cubriéndose en R Otros criterios posibles Frecuencia relativa Contenido de información

48 Un ejemplo de cálculo de la ganancia de información Ejemplos cubiertos por la regla hija(a,b) :- Positivos (2): (maria,ana) y (eva,tomas) Negativos (3): (tomas,ana), (eva,ana) y (eva,ignacio) Ejemplos cubiertos por la regla hija(a,b) :- progenitor(b,a) Positivos (2): (maria,ana) y (eva,tomas). Negativos (1): (tomas,ana). Positivos cubiertos por la regla original que siguen estando cubiertos por la regla extendida (2): (maria,ana), y (eva,tomas). Ganancia de información producida: 2 (log 2 (2/(2 + 1)) log 2 (2/(2 + 3))) = 1,474

49 Literales que introducen nuevas variables Al introducir nuevas variables: Las tuplas se extienden con las nuevas ligaduras Por tanto, el número de ejemplos cubiertos puede aumentar (tanto positivos como negativos) Precisión del valor t en la fórmula de ganancia de información: un ejemplo positivo se considera que sigue cubierto al extender la regla si existe alguna extensión del ejemplo que queda cubierto por la regla

50 Literales que introducen nuevas variables (ejemplo) Ejemplos cubiertos por la regla hija(a,b) :- Positivos (2): (maria,ana) y (eva,tomas) Negativos (3): (tomas,ana), (eva,ana) y (eva,ignacio) Ejemplos (extendidos) cubiertos por la regla hija(a,b) :- progenitor(b,c) Positivos (4): (maria,ana,maria), (maria,ana,tomas), (eva,tomas,eva) y (eva,tomas,ignacio) Negativos (4): (tomas,ana,maria), (tomas,ana,tomas), (eva,ana,maria) y (eva,ana,tomas) Positivos cubiertos por la regla original que siguen estando cubiertos por la regla extendida (2): (maria,ana), y (eva,tomas). Ganancia de información producida: 2 (log 2 (4/(4 + 4)) log 2 (2/(2 + 3))) = 0,644

51 Ejemplo con FOIL Regla inicial: hija(a,b) :- Ejemplos positivos cubiertos: (maria, ana), (eva, tomas) Ejemplos negativos cubiertos: (tomas, ana), (eva, ana), (eva, ignacio) Posibles reglas y ganancia de las mismas hija(a,b) :- hombre(a) hija(a,b) :- hombre(b) hija(a,b) :- mujer(a) hija(a,b) :- mujer(b) hija(a,b) :- progenitor(c,a) hija(a,b) :- progenitor(a,c) hija(a,b) :- progenitor(c,b) hija(a,b) :- progenitor(b,c) hija(a,b) :- progenitor(a,a) hija(a,b) :- progenitor(b,a) hija(a,b) :- progenitor(a,b) hija(a,b) :- progenitor(b,b) Regla extendida: hija(a,b) :- progenitor(b,a)

52 Ejemplo con FOIL Regla obtenida: hija(a,b) :- progenitor(b,a) Ejemplos positivos cubiertos: (maria, ana), (eva, tomas) Ejemplos negativos cubiertos: (tomas, ana) Posibles reglas y ganancia de las mismas hija(a,b) :- progenitor(b,a), hombre(a) hija(a,b) :- progenitor(b,a), hombre(b) hija(a,b) :- progenitor(b,a), mujer(a) hija(a,b) :- progenitor(b,a), mujer(b) hija(a,b) :- progenitor(b,a), progenitor(c,a) hija(a,b) :- progenitor(b,a), progenitor(a,c) hija(a,b) :- progenitor(b,a), progenitor(c,b) hija(a,b) :- progenitor(b,a), progenitor(b,c) hija(a,b) :- progenitor(b,a), progenitor(a,a) hija(a,b) :- progenitor(b,a), progenitor(b,a) hija(a,b) :- progenitor(b,a), progenitor(a,b) hija(a,b) :- progenitor(b,a), progenitor(b,b) Regla extendida: hija(a,b) :- progenitor(b,a), mujer(a)

53 Ejemplo Aprender la relación ser abuelo de a partir del siguiente ejemplo Isabel - Felipe Diana - Carlos Ana - Frank Andrés - Sara Eduardo Guillermo Harry Pedro Zara Beatriz Eugenia

54 Ejemplo Ejemplos positivos: (felipe,guillermo), (felipe,harry), (felipe,pedro), (felipe,zara), (felipe,beatriz), (felipe,eugenia) Ejemplos negativos: Todos los demás (Hipótesis del Mundo Cerrado) Conocimiento base: padre(felipe,carlos), padre(felipe,ana), padre(felipe,andres), padre(felipe,eduardo), padre(carlos,guillermo), padre(carlos,harry), padre(mark,pedro), padre(mark,zara), padre(andres,beatriz), padre(andres,eugenia), madre(isabel,carlos), madre(isabel,ana), madre(isabel,andres), madre(isabel,eduardo), madre(diana,guillermo), madre(diana,harry), madre(ana,pedro), madre(ana,zara), madre(sara,beatriz), madre(sara,eugenia), progenitor(x,y) :- padre(x,y), progenitor(x,y) :- madre(x,y)

55 Ejemplo con FOIL Regla inicial: abuelo(a,b) :- Ejemplos positivos cubiertos: (felipe,guillermo), (felipe,harry), (felipe,pedro), (felipe,zara), (felipe,beatriz), (felipe,eugenia) Ejemplos negativos cubiertos: (felipe,felipe), (felipe,isabel), (felipe,diana), (felipe,carlos), (felipe,ana), (felipe,frank), (felipe,andres), (felipe,sara), (felipe,eduardo), (isabel,isabel), (isabel,diana), (isabel,carlos), (isabel,ana), (isabel,frank), (isabel,andres), (isabel,sara), (isabel,eduardo), (isabel,guillermo), (isabel,harry), (isabel,pedro), (isabel,zara), (isabel,beatriz), (isabel,eugenia),...

56 Ejemplo con FOIL Regla inicial: abuelo(a,b) :- Posibles reglas y ganancia de las mismas abuelo(a,b) :- padre(c,a) abuelo(a,b) :- padre(a,c) abuelo(a,b) :- padre(c,b) abuelo(a,b) :- padre(b,c) abuelo(a,b) :- padre(a,a) abuelo(a,b) :- padre(b,a) abuelo(a,b) :- padre(a,b) abuelo(a,b) :- padre(b,b) abuelo(a,b) :- madre(c,a) abuelo(a,b) :- madre(a,c) abuelo(a,b) :- madre(c,b) abuelo(a,b) :- madre(b,c) abuelo(a,b) :- madre(a,a) abuelo(a,b) :- madre(b,a) abuelo(a,b) :- madre(a,b) abuelo(a,b) :- madre(b,b) 0.000

57 Ejemplo con FOIL Regla inicial: abuelo(a,b) :- Posibles reglas y ganancia de las mismas abuelo(a,b) :- progenitor(c,a) abuelo(a,b) :- progenitor(a,c) abuelo(a,b) :- progenitor(c,b) abuelo(a,b) :- progenitor(b,c) abuelo(a,b) :- progenitor(a,a) abuelo(a,b) :- progenitor(b,a) abuelo(a,b) :- progenitor(a,b) abuelo(a,b) :- progenitor(b,b) Regla extendida: abuelo(a,b) :- padre(a,c)

58 Ejemplo con FOIL Regla obtenida: abuelo(a,b) :- padre(a,c) Ejemplos positivos cubiertos: (felipe,guillermo), (felipe,harry), (felipe,pedro), (felipe,zara), (felipe,beatriz), (felipe,eugenia) Ejemplos negativos cubiertos: (felipe,ana), (felipe,andres), (felipe,carlos), (felipe,diana), (felipe,eduardo), (felipe,felipe), (felipe,isabel), (felipe,mark), (felipe,sara), (carlos,ana), (carlos,andres), (carlos,beatriz), (carlos,carlos), (carlos,diana), (carlos,eduardo), (carlos,eugenia), (carlos,felipe), (carlos,guillermo), (carlos,harry), (carlos,isabel), (carlos,mark), (carlos,pedro), (carlos,sara), (carlos,zara),...

59 Ejemplo con FOIL Regla obtenida: abuelo(a,b) :- padre(a,c) Posibles reglas y ganancia de las mismas abuelo(a,b) :- padre(a,c), progenitor(d,a) abuelo(a,b) :- padre(a,c), progenitor(a,d) abuelo(a,b) :- padre(a,c), progenitor(d,b) abuelo(a,b) :- padre(a,c), progenitor(b,d) abuelo(a,b) :- padre(a,c), progenitor(d,c) abuelo(a,b) :- padre(a,c), progenitor(c,d) abuelo(a,b) :- padre(a,c), progenitor(a,a) abuelo(a,b) :- padre(a,c), progenitor(b,a) abuelo(a,b) :- padre(a,c), progenitor(c,a) abuelo(a,b) :- padre(a,c), progenitor(a,b) abuelo(a,b) :- padre(a,c), progenitor(b,b) abuelo(a,b) :- padre(a,c), progenitor(c,b) abuelo(a,b) :- padre(a,c), progenitor(a,c) abuelo(a,b) :- padre(a,c), progenitor(b,c) abuelo(a,b) :- padre(a,c), progenitor(c,c) abuelo(a,b) :- padre(a,c), madre(d,a) abuelo(a,b) :- padre(a,c), madre(a,d) abuelo(a,b) :- padre(a,c), madre(d,b) 3.510

60 Ejemplo con FOIL Regla obtenida: abuelo(a,b) :- padre(a,c) Posibles reglas y ganancia de las mismas abuelo(a,b) :- padre(a,c), madre(b,d) abuelo(a,b) :- padre(a,c), madre(d,c) abuelo(a,b) :- padre(a,c), madre(c,d) abuelo(a,b) :- padre(a,c), madre(a,a) abuelo(a,b) :- padre(a,c), madre(b,a) abuelo(a,b) :- padre(a,c), madre(c,a) abuelo(a,b) :- padre(a,c), madre(a,b) abuelo(a,b) :- padre(a,c), madre(b,b) abuelo(a,b) :- padre(a,c), madre(c,b) abuelo(a,b) :- padre(a,c), madre(a,c) abuelo(a,b) :- padre(a,c), madre(b,c) abuelo(a,b) :- padre(a,c), madre(c,c) abuelo(a,b) :- padre(a,c), padre(d,a) abuelo(a,b) :- padre(a,c), padre(a,d) abuelo(a,b) :- padre(a,c), padre(d,b) abuelo(a,b) :- padre(a,c), padre(b,d) abuelo(a,b) :- padre(a,c), padre(d,c) abuelo(a,b) :- padre(a,c), padre(c,d) 7.932

61 Ejemplo con FOIL Regla obtenida: abuelo(a,b) :- padre(a,c) Posibles reglas y ganancia de las mismas abuelo(a,b) :- padre(a,c), padre(a,a) abuelo(a,b) :- padre(a,c), padre(b,a) abuelo(a,b) :- padre(a,c), padre(c,a) abuelo(a,b) :- padre(a,c), padre(a,b) abuelo(a,b) :- padre(a,c), padre(b,b) abuelo(a,b) :- padre(a,c), padre(c,b) abuelo(a,b) :- padre(a,c), padre(a,c) abuelo(a,b) :- padre(a,c), padre(b,c) abuelo(a,b) :- padre(a,c), padre(c,c) abuelo(a,b) :- padre(a,c), abuelo(c,a) abuelo(a,b) :- padre(a,c), abuelo(c,b) abuelo(a,b) :- padre(a,c), abuelo(a,c) abuelo(a,b) :- padre(a,c), abuelo(b,c) abuelo(a,b) :- padre(a,c), abuelo(c,c) Regla extendida: abuelo(a,b) :- padre(a,c), progenitor(c,b)

62 Ejemplo de relación recursiva con FOIL Grafo Ejemplos positivos: (1,2), (1,3), (1,4), (1,5), (2,3), (2,4), (2,5), (3,4), (3,5) Conocimiento base: enlace(1,2), enlace(2,3), enlace(3,4), enlace(3,5) 5

63 Ejemplo de relación recursiva con FOIL Regla inicial: camino(a,b) :- Ejemplos positivos cubiertos: (1,2), (1,3), (1,4), (1,5), (2,3), (2,4), (2,5), (3,4), (3,5) Ejemplos negativos cubiertos:(1,1), (2,1), (2,2), (3,1), (3,2), (3,3), (4,1), (4,2), (4,3), (4,4), (4,5), (5,1), (5,2), (5,3), (5,4), (5,5) Posibles reglas y ganancia de las mismas camino(a,b) :- enlace(c,a) camino(a,b) :- enlace(a,c) camino(a,b) :- enlace(c,b) camino(a,b) :- enlace(b,c) camino(a,b) :- enlace(a,a) camino(a,b) :- enlace(b,a) camino(a,b) :- enlace(a,b) camino(a,b) :- enlace(b,b) Regla extendida: camino(a,b) :- enlace(a,b) No cubre ejemplos negativos

64 Ejemplo de relación recursiva con FOIL Regla inicial: camino(a,b) :- Ejemplos positivos cubiertos: (1,3), (1,4), (1,5), (2,4), (2,5) Ejemplos negativos cubiertos:(1,1), (2,1), (2,2), (3,1), (3,2), (3,3), (4,1), (4,2), (4,3), (4,4), (4,5), (5,1), (5,2), (5,3), (5,4), (5,5) Posibles reglas y ganancia de las mismas camino(a,b) :- enlace(c,a) camino(a,b) :- enlace(a,c) camino(a,b) :- enlace(c,b) camino(a,b) :- enlace(b,c) camino(a,b) :- enlace(a,a) camino(a,b) :- enlace(b,a) camino(a,b) :- enlace(a,b) camino(a,b) :- enlace(b,b) Regla extendida: camino(a,b) :- enlace(a,c)

65 Ejemplo de relación recursiva con FOIL Regla obtenida: camino(a,b) :- enlace(a,c) Ejemplos positivos cubiertos: (1,3), (1,4), (1,5), (2,4), (2,5) Ejemplos negativos cubiertos: (1,1), (2,1), (2,2), (3,1), (3,2), (3,3) Posibles reglas y ganancia de las mismas camino(a,b) :- enlace(a,c), camino(c,a) camino(a,b) :- enlace(a,c), camino(c,b) camino(a,b) :- enlace(a,c), camino(a,c) camino(a,b) :- enlace(a,c), camino(b,c) camino(a,b) :- enlace(a,c), camino(c,c) camino(a,b) :- enlace(a,c), enlace(d,a) camino(a,b) :- enlace(a,c), enlace(a,d) camino(a,b) :- enlace(a,c), enlace(d,b) camino(a,b) :- enlace(a,c), enlace(b,d) camino(a,b) :- enlace(a,c), enlace(d,c) camino(a,b) :- enlace(a,c), enlace(c,d) 3.539

66 Ejemplo de relación recursiva con FOIL Regla obtenida: camino(a,b) :- enlace(a,c) Posibles reglas y ganancia de las mismas camino(a,b) :- enlace(a,c), enlace(a,a) camino(a,b) :- enlace(a,c), enlace(b,a) camino(a,b) :- enlace(a,c), enlace(c,a) camino(a,b) :- enlace(a,c), enlace(a,b) camino(a,b) :- enlace(a,c), enlace(b,b) camino(a,b) :- enlace(a,c), enlace(c,b) camino(a,b) :- enlace(a,c), enlace(a,c) camino(a,b) :- enlace(a,c), enlace(b,c) camino(a,b) :- enlace(a,c), enlace(c,c) Regla extendida: camino(a,b) :- enlace(a,c), camino(c,b) No cubre ejemplos negativos

67 Ejemplo de relación recursiva con FOIL Grafo Concepto aprendido: camino(a,b) :- enlace(a,b) camino(a,b) :- enlace(a,c), camino(c,b)

68 Bibliografía Mitchell, T.M. Machine Learning (McGraw-Hill, 1997) Cap. 3: Decision tree learning Cap. 10: Learning Sets of Rules Russell, S. y Norvig, P. Artificial Intelligence (A modern approach) (Second edition) (Prentice Hall, 2003) Cap. 18: Learning from observations Cap. 19: Knowledge in learning Russell, S. y Norvig, P. Inteligencia artificial (Un enfoque moderno) (Tercera edición) (Pearson-Prentice Hall, 2010) Witten, I.H. y Frank, E. Data mining (Second edition) (Morgan Kaufmann Publishers, 2005) Cap. 3, 4, 5 y 6.