Qué es machine learning? Algunos Tipos de Machine Learning. Generalización & Exploración. Aprendizaje a partir de Ejemplos. Inferencia Inductiva

Transcripción

1 Prof Carlos Iván Chesñevar Datamining y Aprendizaje Automatizado Introducción al Machine Learning Prof Carlos Iván Chesñevar Departamento de Cs e Ing de la Computación Universidad Nacional del Sur Qué es machine learning? Meta: Cómo hacer que los programas mejoren su performance en ciertas tareas a partir de la experiencia "performance" = velocidad, exactitud, "experiencia" = cjto de casos conocidos ("observaciones") Ej (método simple): experiencia: ejecutar acción A en situación S dio resultado R la situación S aparece otra vez si R era indeseable: probar otra cosa si R era deseable: intentar otra vez acción A cic@csunseduar / Prof Carlos I Chesñevar UNS Prof Carlos I Chesñevar UNS Generalización & Exploración Este es un ejemplo muy simple Sólo funciona si encontramos exactamente la misma situación Pero si la situación es similar? Necesitamos generalización Y si elegimos otra acción alternativa que es aún mejor que la que ya conocemos? Necesitamos exploración La generalización está asociada a la inferencia inductiva Prof Carlos I Chesñevar UNS Algunos Tipos de Machine Learning Aprender a través de terceros maestro nos dice todo Problema: entender al maestro Aprender por descubrimiento aprendiz planea experimentos, posiblemente formula lenguajes de descripción, generaliza a partir de observaciones Aprendizaje a partir de ejemplos maestro provee ejemplos (posiblemente buenos) el aprendiz generaliza Prof Carlos I Chesñevar UNS Aprendizaje a partir de Ejemplos Aprendizaje Inductivo En general, los expertos encuentran más fácil producir buenos ejemplos que proveer teorías completas y generales Los ejemplos pueden provenir de la naturaleza, de experimentos, de observaciones, o bases de datos preexistentes Inferencia Inductiva = Razonar de lo específico a lo general eg estadística: de una muestra, inferimos propiedades de una población muestra población obs: estos perros son todos marrones" hipótesis: todos los perros son marrones" Prof Carlos I Chesñevar UNS 5 Prof Carlos I Chesñevar UNS 6

2 Prof Carlos Iván Chesñevar Nota: la inferencia inductiva es más general que la estadística la estadística se involucra básicamente con métodos numéricos para hacer inferencias inferir media, moda, distribución probabilística, etc de una población Otros enfoques más generales en cambio son: encontrar definición simbólica de un concepto ( concept learning ) encontrar leyes (quizá con estructura compleja) que gobiernen los datos estudiar inducción desde un punto de vista filosófico Dos grandes aplicaciones de inferencia inductiva: Machine learning muestra" de observaciones = experiencia generalización a una población = encontrar patrones (modelos) en las observaciones que en general valen y pueden usarse para futuras tareas Descubrimiento de conocimiento (Data mining) muestra" = base de datos generalización = encontrar patrones que valen en una BD y que pueden esperarse también en datos similares que NO están en la BD Conocimiento descubierto= descripción comprensible de estos patrones Prof Carlos I Chesñevar UNS 7 Prof Carlos I Chesñevar UNS 8 Un ejemplo: cómo construir un sistema que juega al ajedrez Aprender = mejorar en una tarea T, con respecto a una medida de performance P, basada en experiencia E En este caso: T = jugar a las damas P = % de juegos ganados en un torneo mundial E = juegos jugados contra sí misma / secuencias de partidos previos jugados por campones mundiales Preguntas a responder: Qué es lo dado? qué es lo aprendido? qué algoritmo de representación y aprendizaje hay que usar? Prof Carlos I Chesñevar UNS 9 Ajedrez: ejemplo Qué queremos aprender? dada una situación de tablero, que movida hay que hacer Qué es lo dado? evidencia directa o indirecta? Directa: ej, que movidas fueron buenas, y cuáles fueron malas Indirecta: movidas consecutivas en un juego resultado del juego en este caso: evidencia indirecta Evidencia directa requeriría un maestro Prof Carlos I Chesñevar UNS Ajedrez: ejemplo Qué es lo que en concreto queremos aprender? Elegir tipo de target function : ChooseMove: Tablero Movida? aplicable directamente V: Tablero Real indica calidad del estado al jugar, elegir la movida que lleva al mejor estado Nota: def razonable para V sería:» V(gana) =, V(pierde) =, V(empate) =, V(s) = V(e) siendo e el mejor estado alcanzable desde s al jugar optimamente Ajedrez: ejemplo Elegir representación para la target function : cjto de reglas? función polinómica en base a caract numéricas? Ejemplo: l V = w bpw rpw bkw rk bp, rp : nro de piezas negras / blancas sin amenazar bk, rk : nro de damas negras / blancas amenazadas w i : constantes aprendidas a partir de experiencia Prof Carlos I Chesñevar UNS Prof Carlos I Chesñevar UNS

3 Prof Carlos Iván Chesñevar Elementos influyentes en elecciones de diseño Qué algoritmos son útiles para qué tipo de funciones? Cómo se ve influenciado el aprendizaje por # ejemplos de entrenamiento complejidad de representación de hipótesis ruido en los datos Límites teóricos para aprendizaje? Podemos ayudar al aprendiz con conoc previo? Podría un sistema alterar su representación por sí mismo? Tareas de aprendizaje típicas Concept learning: aprender una definición de un concepto (ej: fraude bancario; compuesto químico peligroso) Aprendizaje supervisado vs no supervisado Aprendizaje de funciones Discreta ("clasificación") o continua ("regresión") Concepto = función con resultado booleano Clustering Encontrar patrones descriptivos Prof Carlos I Chesñevar UNS Prof Carlos I Chesñevar UNS Ejemplo: Aprendizaje sobre Hongos 5 6 Prof Carlos I Chesñevar UNS 5 Clases y Atributos Ejemplo de hongo venenoso Ejemplo de hongo comestible 5 6 Dos atributos: altura y ancho de un hongo Dos clases: venenosos () y comestibles () Prof Carlos I Chesñevar UNS 6 Tarea De Aprendizaje Ejemplo de hongo venenoso Ejemplo de hongo comestible 5 6 Aprender el concepto de hongo comestible Prof Carlos I Chesñevar UNS 7 Conceptos a partir de Ejemplos Conceptos como conjuntos: U = conjunto de todos los objetos (instance space) Un concepto C, C U Aprender un concepto C significa Aprender a reconocer, para todo U, si C o C Ejemplos de conceptos: Concepto de hongo venenoso Concepto de enfermedad: cjto de pacientes que sufren de esa dolencia Concepto de arco Concepto de letra A (OCR) Concepto de multiplicación = {(x,y,z) x*y=z} Prof Carlos I Chesñevar UNS 8

4 Prof Carlos Iván Chesñevar Conceptos a partir de Ejemplos Usualmente, el resultado del aprendizaje es una descripción de concepto o un clasificador Un clasificador puede definirse en distintas formas, utilizando varios formalismos, alternativamente llamados: Lenguajes de Descripción de Conceptos, o bien Lenguajes de Hipótesis Los clasificadores describen las hipótesis del aprendiz (sobre la base de los datos de aprendizaje) sobre un concepto meta En gral un aprendiz nunca está seguro de si una hipótesis inducida corresponde al concepto meta Prof Carlos I Chesñevar UNS 9 (H) 5 6 IF <W and W< and H< THEN comestible ELSE venenoso Hipot H (W) Prof Carlos I Chesñevar UNS 5 6 IF H>W THEN venenoso ELSE IF H>6 W THEN venenoso ELSE comestible Hipot H Prof Carlos I Chesñevar UNS Hipot H 5 6 IF H< (W) THEN comestible ELSE venenoso Prof Carlos I Chesñevar UNS Contrastando Hipótesis Las tres hipótesis presentadas eran consistentes con los datos Pero hay diferencias cuando se clasifican nuevos datos! Prof Carlos I Chesñevar UNS H H H 5 6 H es la hipótesis más específica H y H son más generales (=menos específicas) que H Prof Carlos I Chesñevar UNS

5 5 Prof Carlos Iván Chesñevar Lenguajes de Hipótesis Arbol de Decisión Descripciones AtributoValor Se refieren a atributos únicos Ej: IF <W AND W< THEN Descripciones relacionales Hacen referencia a relaciones entre componentes Ej: IF H>W THEN Brinda un lenguaje de hipótesis AtributoValor Hipótesis H puede representarse como árbol de decisión IF <W and W< and H< THEN comestible ELSE venenoso W< True False W> False True H> False True Prof Carlos I Chesñevar UNS 5 Prof Carlos I Chesñevar UNS 6 Descripciones Relacionales Datos de lentes de contacto Aprender el concepto de un arco Posible hipótesis Inducida por un aprendiz automático: arco arco Un arco consiste de tres polígonos A,B, y C A y B son rectángulos C es polígono estable A y B soportan a C A y B no se tocan arco arco Prof Carlos I Chesñevar UNS 7 Prof Carlos I Chesñevar UNS 8 Dos descripciones estructurales: reglas y árbol de decisión Aprendizaje a partir de Ejemplos C C U C es un concepto meta indica ejemplos positivos indica ejemplos negativos C es un concepto inducido, o concepto aprendido, o hipótesis Prof Carlos I Chesñevar UNS 9 Prof Carlos I Chesñevar UNS

6 6 Prof Carlos Iván Chesñevar Aprendizaje a partir de Ejemplos C C Los errores (clasificaciones incorrectas) son: CC = ejemplos que están en C pero no en C C C = ejemplos que están en C pero no en C Error cometido: (CC ) (C C) Exactitud de concepto inducido = proporción de clasificación correcta = U (CC ) (C C) / U U Bias (=sesgo) en Machine Learning Sesgo de Restricción: limita el conjunto de hipótesis posibles A menudo llamado sesgo del lenguaje Sesgo de preferencia: ordena las hipótesis disponibles; también llamado sesgo de búsqueda Ejemplos: Hipótesis maximamente grales Hipótesis máximamente específicas Navaja de Occam (Occam s razor) Prof Carlos I Chesñevar UNS Prof Carlos I Chesñevar UNS Navaja de Occam (Occam s Razor) William of Occam (859) Entities should not be multiplied unnecessarily Se aplica en ciencias experimentales como Navaja de Occam Criterios de Exito en ML Exactitud de hipótesis inducidas Comprensibilidad = grado de entendimiento de la hipótesis inducida En la práctica, la comprensibilidad puede ser más importante que la exactitud! Dadas dos explicaciones de los datos, la explicación más simple es la preferida Prof Carlos I Chesñevar UNS Prof Carlos I Chesñevar UNS Concept learning : supervisado Dados ejemplos positivos () y negativos () de un concepto, inferir propiedades que hagan que las instancias sean positivas o negativas (= concept definition) ) C: {true,false} Prof Carlos I Chesñevar UNS 5 C Concept learning : nosupervisado Dados ejemplos de instancias Inventar conceptos razonables ( = clustering) Encontrar definiciones para estos conceptos C Prof Carlos I Chesñevar UNS 6 C C Eg taxonomías de animales, identificación de segmentos de mercado,

7 7 Prof Carlos Iván Chesñevar Aprendizaje de funciones Generaliza la noción de concept learning Aprender función f: S donde S es un cjto finito de valores: clasificación S es un rango continuo de reales: regresión f Clustering Encontrar grupos de instancias que son similares Puede ser una meta en sí mismo (clasificación no supervisada) pero también es usada para otras tareas regresión predicción flexible: cuando no se sabe por adelantado qué propiedades p predecir a partir de cuáles otras propiedades Prof Carlos I Chesñevar UNS 7 Prof Carlos I Chesñevar UNS 8 Representación de los datos Datos numéricos : las instancias son puntos en el espacio ndimensional Muchas técnicas se focalizan en este tipo de datos Datos simbólicos (true/false, negro/blanco,) Pueden convertirse a datos numéricos Algunas técnicas funcionan directamente con datos simbólicos Datos estructurales Las instancias tienen estructura interna (grafos, cjtos, ; ej moléculas) Difíciles de convertir a un formato más sencillo Existen pocas técnicas para manipularlos Prof Carlos I Chesñevar UNS 9 Acercamientos existentes Acercamientos simbólicos: Version Spaces, Inducción de árboles de decisión, Inducción de cjtos de reglas, inductive logic programming, Acercamientos numéricos: Redes Neurales, support vector machines, Acercamientos probabilísticos ( aprendizaje bayesiano ) Misceláneos: Aprendizaje basado en ejemplos, algoritmos genéticos, aprendizaje por refuerzo, etc Prof Carlos I Chesñevar UNS Síntesis Aprendizaje automatizado Generalización, exploración, Aplicaciones Sistemas adatpativos Conceptos Descripciones i de conceptos Lenguajes de hipótesis Leer: Machine Learning (TMitchel), Cap Prof Carlos I Chesñevar UNS