Tópicos Selectos en Aprendizaje Maquinal. Algoritmos para Reconocimiento de Patrones

Transcripción

1 Tópicos Selectos en Aprendizaje Maquinal Guía de Trabajos Prácticos N 1 (2da. parte) Algoritmos para Reconocimiento de Patrones 20 de Octubre de Objetivos Introducir conceptos básicos de aprendizaje automático. Conocer los principales aspectos de implementación práctica de diversos algoritmos de reconocimiento de patrones. Estudiar y validar su comportamiento sobre conjuntos sencillos de datos reales y simulados. 2. Ejercicios Ejercicio 1: Redes neuronales dinámicas. 1. Implemente la arquitectura y entrenamiento Hebbiano para una red recurrente de Hopfield con los patrones que se muestran en la Figura Utilice la red de Hopfield como memoria asociativa para los patrones de la Figura Agregue diferentes cantidades de ruido a los patrones de la Figura 2 y utilice estos ejemplos ruidosos para acceder a las memorias fundamentales almacenadas como en el ejercicio anterior. Para simular cantidades controladas de ruido se sugiere invertir (blanco a negro y viceversa) cada pixel del dígito con probabilidades 0.1, 0.2 y 0.5. Ejercicio 2: Modelos de Markov. 1. La Secretaria de Turismo de una ciudad quiere modelar el clima diario local para planificar distintas actividades. Para ello se propone el modelo probabilístico de la Figura 3 basado en autómatas observables de Markov, con los siguientes parámetros: 1

2 GTP N o 1-b: Algoritmos para Reconocimiento de Patrones 2 Figura 1: Patrones sencillos para almacenar en las memorias fundamentales. Figura 2: Memorias fundamentales hechas a partir de los dígitos de 0 a 9.

3 GTP N o 1-b: Algoritmos para Reconocimiento de Patrones 3 Inicio Lluvioso Soleado Figura 3: Cadena de Markov de 2 estados para modelar el clima diario en una ciudad. A = [ 0,7 0,3 0,4 0,6 π = [ 0,6 0,4 ] a) Realice la simulación computacional del mismo como modelo generativo. b) Genere varias secuencias climáticas y grafíquelas. c) Utilice las secuencias de salida generadas para re-estimar los valores de A y π: Cómo influye la cantidad de secuencias y el largo de las mismas en la estimación de los parámetros del autómata? Sería este modelo válido para todas las estaciones del año? d) Cómo convertiría este modelo en un modelo oculto de Markov? Realice los cambios que correspondan en la simulación para este caso, genere nuevas secuencias con este modelo y comente los resultados comparados con el caso anterior La Secretaria de Turismo quiere ahora modelar la actividad principal diaria de los turistas que visitan la ciudad y su relación con el clima. Para ello se propone completar el modelo anterior para convertirlo en un modelo oculto de Markov como el de la Figura 4, con los siguientes parámetros: A = [ 0,7 0,3 0,4 0,6 ] ] 0,1 0,6 B = 0,4 0,3 0,5 0,1 π = [ 0,6 0,4 ] 1 Puede comenzar suponiendo una matriz de probabilidades de observación tipo identidad (caso completamente observable) para luego ocultar progresivamente el modelo.

4 GTP N o 1-b: Algoritmos para Reconocimiento de Patrones 4 Inicio Lluvioso Soleado Caminar Museo Comprar Figura 4: Modelo oculto de Markov de 2 estados y 3 salidas posibles para modelar la actividad de un turista. a) Genere una secuencia de comportamientos suficientemente larga y calcule la secuencia de climas más probable (para esa secuencia de comportamientos). Cuánto difiere la secuencia climática real generada por el modelo de la estimada a partir de sus parámetros? b) Utilice el modelo para analizar el desempeño de los métodos de entrenamiento: Genere varias secuencias adicionales de comportamiento. A partir de estos datos estime los parámetros del modelo mediante el algoritmo de Viterbi y el de Baum-Welch. Compare los resultados obtenidos en ambos casos con los valores reales de los parámetros. c) Si tuviera varios modelos que describieran distintos hábitos de comportamiento para distintos tipos de turistas: cómo implementaría un método que le permita clasificar un turista recién llegado en función de su secuencia de actividades diaria durante la primer semana de estadía? Ejercicio 3: Árboles de decisión. 1. Se tienen datos acerca de la realización o suspensión de partidos de tenis en función del pronóstico del tiempo y los datos del día que se han volcado en el Cuadro 1: a) Construya a mano (haciendo todas las cuentas) y dibuje el árbol binario de decisión que describa los datos sobre juegos de tenis del cuadro. Utilice como impureza la entropía. b) Escriba un programa que permita crecer árboles de decisión binarios y utilícelo para generar automáticamente un árbol a partir de los datos anteriores. Contraste con el árbol generado por Ud.

5 GTP N o 1-b: Algoritmos para Reconocimiento de Patrones 5 Cuadro 1: Datos de juegos de tenis en función del pronóstico del tiempo. # Atributo Clase Pronóstico Temp. Humedad Viento Juega 1 soleado calor alta no N 2 soleado calor alta si N 3 nublado calor alta no P 4 lluvioso moderado alta no P 5 lluvioso frío normal no P 6 lluvioso frío normal si N 7 nublado frío normal si P 8 soleado moderado alta no N 9 soleado frío normal no P 10 lluvioso moderado normal no P 11 soleado moderado normal si P 12 nublado moderado alta si P 13 nublado calor normal no P 14 lluvioso moderado alta si N Cuadro 2: Datos de juegos de tenis en función del pronóstico del tiempo con atributos numéricos. # Atributo Clase Pronóstico Temp. Humedad Viento Juega 1 soleado no N 2 soleado si N 3 nublado no P 4 lluvioso no P 5 lluvioso no P 6 lluvioso si N 7 nublado si P 8 soleado no N 9 soleado no P 10 lluvioso no P 11 soleado si P 12 nublado si P 13 nublado no P 14 lluvioso si N c) Modifique el tipo de impureza empleada y comente las diferencias con el árbol generado en el punto anterior. 2. Se han modificado los datos de juegos de tenis anteriores para incluir valores numéricos de temperatura y humedad de acuerdo con el Cuadro 2: Modifique el programa desarrollado para tratar con atributos numéricos y genere un nuevo árbol con los datos del cuadro. Ejercicio 4: Técnicas de validación y comparación del desempeño de los algoritmos. 1. Diabetes: es una base de datos creada en el National Institute of Diabetes and Digestive and Kidney Diseases (EE.UU.) 2. Esta base de datos contiene 2 UCI Repository of Machine Learning Databases and Domain Theories (ics.uci.edu:pub/ machine-learning-databases).

6 GTP N o 1-b: Algoritmos para Reconocimiento de Patrones 6 Figura 5: Proyección en R 2 (mediante PCA) de la distribución de clases para la base de datos diabetes. información sobre mujeres mayores de 21 años descendientes de los indios Pima de Arizona (EE.UU.) Se las ha estudiado especialmente por ser una de las poblaciones con más alta prevalencia de diabetes en el mundo. Hay 768 casos con información en 8 atributos de entrada que se consideran pertinentes para la clasificación. El diagnóstico consiste en una variable binaria que indica si el paciente muestra signos de diabetes mellitus. De estos 768 casos, cerca de la mitad tienen datos faltantes en los atributos presión diastólica, grosor de la piel y concentración de insulina en la sangre. En el Cuadro 3 se muestran los atributos y algunas estadísiticas de la base de datos. Una idea de cuan mezcladas están las clases puede obtenerse a partir de la proyección de los datos en 2 dimensiones (Figura 5). Utilizando el software WEKA 3 entrene con estos datos a los siguientes clasificadores y compare su desempeño (con al menos 2 configuraciones distintas cada uno): a) Naive Bayes. b) Perceptrón multicapa. c) Red de funciones de base radial. d) C4.5. e) Máquina de vectores de soporte. f ) K-means (comparando los centroides con las etiquetas). Para la validación utilice los métodos de: una sola partición de entrenamiento/prueba y k-fold cross validation (con 2 diferentes configuraciones cada uno). Estime los errores de clasificación promedio y la desviación estándar para cada caso. 2. Iris: es el género una planta herbácea con flores que se utilizan en decoración. Dentro de este género existen muy diversas especies entre las que se han estudiado la Iris setosa, la Iris versicolor y la Iris virginica (ver Figura 6). 3

7 GTP N o 1-b: Algoritmos para Reconocimiento de Patrones 7 Cuadro 3: Estadísticas de la base de datos diabetes. Atributo Mínimo Máximo Valor Medio Desv. Stand. Descripción Num Emb ,38 3,32 Embarazos. Gluc Plas ,62 32,69 Glucosa en plasma. Pres Diast ,25 13,11 Presión diastólica. Piel Triceps ,28 10,55 Grosor de la piel. Insulina ,47 121,49 Insulina en sangre. Masa Corp 18,2 67,1 33,75 7,23 Masa corporal. Pedigree 0,085 2,42 0,56 0,37 Pedigree. Edad ,99 10,59 Edad. Figura 6: Muestra de la especie Iris virginica. Estas tres especies pueden distinguirse según las dimensiones de sus pétalos y sépalos. Un grupo de investigadores ha recopilado la información correspondiente a las longitudes y anchos de los pétalos y sépalos de 50 plantas de cada especie. En la base de datos iris se encuentran estas mediciones (en cm) junto con un valor numérico que indica la especie reconocida por los investigadores (0=setosa; 1=versicolor; 2=virginica). Para la clasificación de una gran cantidad de estas plantas se desea diseñar un sistema que aprenda de estos 150 patrones para luego realizar la tarea de forma automática: a) Proceda con estos datos de igual manera que en el punto anterior y seleccione el clasificador con el mejor desempeño. b) Luego proyecte los datos sobre las dos primeras componentes principales (ver Figura 7). c) Repita los experimentos con estos datos transformados. d) Comente brevemente las diferencias encontradas con los experimentos anteriores.

8 GTP N o 1-b: Algoritmos para Reconocimiento de Patrones Componentes principales para IRIS PC PC 1 Figura 7: Proyección en R 2 (mediante PCA) de la distribución de clases para la base de datos iris.