El problema del Aprendizaje Automático (Machine Learning)

Transcripción

1 Universidad TELESUP Ingeniería de Sistemas Ciclo 2017-I El problema del Aprendizaje Automático (Machine Learning) 1. Introducción Arthur Samuel (1959) define machine learning como el campo de estudio que le da a las computadoras la capacidad de aprender sin tener que programarlas explícitamente. Más tarde Tom Mitchell (1998) define un problema de aprendizaje automático bien abordable como que un programa de computador se dice que aprende de la experiencia E respecto a una tarea T y una medida de eficacia P, si su eficacia en T, tal y como se mide por P, mejora con la experiencia E. Pedro Domingos (2012) define los sistemas de aprendizaje automático como sistemas que aprenden programas automáticamente a partir de datos. Por ejemplo en el caso de que la tarea T sea clasificar un mail como spam o no spam, la experiencia E es que el programa observe qué mails marco yo como spam y cuales no y la medida de eficacia P sería el número de mensajes marcados correctamente como spam o no spam. El objetivo del aprendizaje automático es utilizar una serie de datos para descubrir un proceso encubierto del sistema. Este es un objetivo compartido por muchas disciplinas. Lo característicos para este caso es que para poder aplicar aprendizaje automático a un problema este tiene satisfacer tres requerimientos: Existe un patrón en los datos que tenemos que descubrir. El patrón no se puede describir matemáticamente utilizando una expresión analítica. Si existe una expresión matemática, entonces no tiene sentido utilizar machine learning porque la expresión matemática da mejores resultados. Tenemos que tener datos para descubrir el patrón. La existencia del patrón no tiene por qué ser demostrable matemáticamente y en muchos casos la aseveración de si existe o no se basa más bien en una intuición o tras observar el fenómeno durante un tiempo. Tampoco es necesario saber de antemano si existe un patrón o no. Se pueden explorar los datos y determinar si el patrón existe o no y si por lo tanto podremos extraer la información que necesitamos. 2. Machine Learning vs. Estadística Tanto la estadística como el aprendizaje automático intentan hacer lo mismo, encontrar las correspondencias que existen en la naturaleza entre entradas y salidas. La estadística aborda este problema intentando modelar el mundo con procesos estocásticos. Una vez que se tiene el modelo se pueden extraer más muestras de ese modelo y hacer razonamientos sobre la población en su totalidad.

2 Mientras que el aprendizaje automático intenta encontrar una función que prediga y a partir de x sin necesidad de asumir un cierto modelo de la naturaleza 3. Componentes del problema de aprendizaje En general podemos dividir un problema de aprendizaje automático en tres bloques: Representación: cómo es mi clasificador? Es un árbol de decisiones? Es una red neuronal? Evaluación: Qué métricas uso para distinguir una buena solución de una mala? Optimización: Cómo voy a buscar entre todas estas las posibles instancias de mi representación? Siendo más específicos y utilizando como ejemplo un sistema automático de aprobación/denegación de crédito: - Tenemos una entrada: x que es un vector d-dimensional con una dimensión por campo de información que componga la entrada. En nuestro ejemplo x representa la ficha de cada cliente con los campos correspondientes (features). - Tenemos una salida: y que es una decisión, una clasificación, un dato, etc. En nuestro ejemplo es la decisión de dar o denegar el crédito. - Función objetivo f: X -> Y es una función en el dominio X que incluye todos los x posibles al dominio Y con todos los posibles valores de y. En aprendizaje automático esta función nunca se conoce, de lo contrario se podría formular matemáticamente y no sería necesario aplicar aprendizaje automático. En nuestro ejemplo esta es la fórmula ideal para decidir si se le da un crédito a un cliente o no. - Datos: son pares x, y que son ejemplos de la relación entre la entrada y la salida: (x1,y1), (x2,y2),, (xn,yn). En nuestro ejemplo esto es el registro histórico de clientes y decisiones que tiene un banco. - Hipótesis: la fórmula que vamos a utilizar para aproximar la función objetivo. Al igual que f va de X a Y. g: X->Y. Esta es la fórmula que vamos a aplicar en la práctica en la decisión de si dar el crédito o no. Estos elementos están relacionados entre sí de la siguiente forma: la función ideal genera los datos, que es lo que nosotros vemos. Tenemos por otro lado un conjunto de funciones hipótesis (también llamadas representación) de las que tenemos que seleccionar una. El algoritmo de aprendizaje se va a encargar de hace esa selección a partir de los datos de forma que la función hipótesis seleccionada aproxime a la función ideal lo más posible.

3 La restricción de seleccionar la hipótesis final de un conjunto no es en realidad una restricción porque nosotros podemos hacer ese conjunto tan grande o tan pequeño como queramos, todo depende del tiempo y la capacidad de cálculo de la que dispongamos. Sin embargo es un elemento clave en la teoría del aprendizaje ya que nos va a decir qué podemos aprender, cuando podemos aprender, etc. 4. Componentes de la solución (modelo de aprendizaje) Dentro del sistema que hemos visto solo podemos controlar dos de los elementos: el algoritmo de aprendizaje y el conjunto de hipótesis. Estos son los dos elementos de la solución. - El conjunto de hipótesis es un conjunto de funciones candidatas H= {h} con g H - El algoritmo de aprendizaje. En conjunto forman el modelo de aprendizaje. Por ejemplo si el conjunto de hipótesis son las redes neuronales, entonces el algoritmo es backpropagation. Nunca vamos a aprender la función objetivo, esto significa que, una vez aprendido un modelo no podemos saber a ciencia cierta si va a ser válido para otros datos diferentes de aquellos que hemos utilizado para obtenerlo. 5. Cuándo es posible el aprendizaje? (BIN and MARBLES) Supongamos una urna transparente con bolas rojas y verdes. Hacemos el siguiente experimento.

4 Tomamos una bola, la probabilidad de que cojamos una bola roja va a ser µ siempre (suponemos una fuente infinita de bolas en la que la proporción de bolas rojas es µ). Por lo tanto la probabilidad de que cojamos una bola verde es 1-µ. El valor de µ es desconocido. Tomamos N bolas de forma independiente (con reemplazo). La fracción de bolas rojas en la muestra va a ser. Esta fracción va a cambiar de muestra a muestra. Esta fracción no nos dice nada sobre µ porque es posible que, siendo la mayor parte de las bolas de color rojo en la urna, nos salgan la mayor parte de las bolas en la muestra de color verde. Sin embargo, si la muestra es lo suficientemente grande, la frecuencia de la muestra es probablemente parecida a µ. Por lo tanto tenemos aquí una distinción entre lo que es posible y es probable. En una muestra grande (N grande) probablemente estará cerca de µ (dentro de una tolerancia ). Formalmente podemos expresar la probabilidad de que la diferencia entre la fracción en la muestra y en el sistema sea mayor que la tolerancia como una función exponencial negativa del tamaño de la muestra y de la tolerancia al cuadrado. Esto significa que tener una muestra grande ayuda a que la fracción en la muestra sea representativa del sistema, pero una disminución de la tolerancia tiene un impacto negativo de orden cuadrático en la representatividad. A esta desigualdad se le denomina desigualdad de Hoeffding y hace que decir que la fracción en la muestra y en el sistema son iguales sea una afirmación probablemente aproximadamente correcta. Es cierta en el límite cuando N o la tolerancia tienden a infinito. La desigualdad es válida para cualquier tamaño de muestra que sea un número natural positivo y para cualquier épsilon mayor que 0, es decir, no es asintótica. Es una de las leyes de números grandes. A pesar de que la probabilidad exacta depende de µ, la inecuación nos da un límite por arriba de su valor y no depende de µ. Esta es una gran propiedad porque no conocemos µ y no lo podemos determinar. La desigualdad además plantea la necesidad de llegar a un compromiso entre la acotación de la probabilidad, el tamaño de la muestra y la tolerancia. 6. Conexión con el aprendizaje En una situación de aprendizaje, el parámetro µ desconocido en la urna se convierte en la función objetivo f: X->Y

5 Para ver esto consideremos cada uno de los datos x en el espacio de entrada X como una de las bolas en la urna. Por lo tanto la urna en sí es el espacio de entrada X. El color verde de las bolas son aquellos casos en los que mi hipótesis se corresponde con la función objetivo y el color rojo se corresponde con aquellos casos en los que la hipótesis no coincide con la función objetivo. Como la función objetivo no se conoce, el color de los puntos es algo que no puedo saber. Cuando selecciono una hipótesis h, inmediatamente tiene asociada una fracción de puntos en el espacio de entrada que coinciden con la función objetivo f. Estas son las bolas verdes. El resto no coinciden, estas son las bolas rojas. Nosotros, todo lo que podemos hacer es seleccionar una h buscando que la fracción de puntos en los que no coincide con f sea lo más pequeño posible en la muestra, y la desigualdad de Hoeffding nos acota cómo de lejos de la fracción real en el sistema µ estamos en función del número de datos y de la tolerancia. De esta forma mediante la tolerancia y mediante el número de datos yo NO controlo µ (es desconocida), pero sí como de cerca está su estimación de ella cuando aplico h. Ahora vamos a tener una probabilidad P asociada a cada uno de los puntos del espacio de entrada que es la que me va a dar cual de los puntos me va a aparecer en mis datos. Esta distribución de probabilidad puede ser cualquiera y además no tengo por qué conocerla, solo sé que va a estar acotada por la desigualdad de Hoeffding. Esta probabilidad es la que se utiliza para generar los puntos x1 a xn en nuestros datos, estos puntos se generan de forma independiente entre sí y en algunos de ellos nuestra función hipótesis va a coincidir con la función objetivo y en otros no. El problema es que aquí estamos asumiendo que la función de hipótesis h es una función fija. Que en un dato h coincida con f no va a depender de f, sino que va a depender exclusivamente de h. Tal y como se ha planteado hasta ahora, lo que está ocurriendo es que para esta función hipótesis generaliza en µ y lo que hemos hecho es verificar h, no aprender (es decir, no modificar para hacerlo más pequeño en función de la h escogida). Es decir, estoy tomando muestras generadas por la función objetivo y viendo si lo que sale

6 de h se corresponde con ello, no buscando h. Y puesto que no tengo ninguna garantía de que sea pequeño, puedo escoger una h cualquier y acotar todo lo que quiera su grado de éxito, pero no mejorarlo. 7. Múltiples hipótesis Para generalizar el modelo de la urna a una situación en la que tengo más de una hipótesis. Para ello voy a tener múltiples urnas, cada una representando una hipótesis y unas van a funcionar mejor que otras. En el ejemplo por ejemplo la hipótesis 1 funciona mucho peor que la hipótesis 2, y las muestras de las urnas reflejan este hecho hasta cierto punto. Por el momento vamos a considerar una serie finita de M hipótesis. Por lo tanto el aprendizaje consistiría en examinar las diferentes muestras y gracias a la acotación que nos da la desigualdad de Hoeffding, ver cuál de ellas tiene un menor (y por lo tanto, al generalizar, un µ menor) y determinar de esta forma cual de las hipótesis está más de acuerdo con la función objetivo. El valor de µ y va a depender de la hipótesis que escoja. A le vamos a dar el nombre de error "in sample" (error porque representa la fracción de puntos en los que la hipótesis falla) y se va a denotar por Ein(h). A µ le vamos a dar el nombre de error "out of sample" y lo vamos a denotar por Eout(h). Ambos errores dependen de la hipótesis sobre la que estemos trabajando. Con esta notación la desigualdad de Hoeffding queda: El problema es que la desigualdad de Hoeffding no es aplicable a múltiples hipótesis (urnas). No hay garantía de que el error "in sample" que obtengo con una hipótesis sea realmente mejor que el de otra

7 porque simplemente puedo tener suerte con los datos y que resulte que para una hipótesis concreta esos datos den un error "in sample" bajo, cuando en realidad no es mejor o es incluso peor que para otra hipótesis que realmente si está más de acuerdo con la función objetivo. Cada vez que tomo una muestra o cambio de hipótesis para una misma muestra estoy tomando una muestra al azar de la misma urna/diferentes urnas, y simplemente por probabilidad, si tomo las suficientes muestras, alguna de ellas va a resultar ser una muestra perfecta. Para resolver esto haremos lo siguiente, supongamos que hemos escogido la hipótesis final g seleccionando de entre M hipótesis. La probabilidad de que la diferencia entre el error in sample y el error outsample sea mayor de la tolerancia para esta función va a ser menor o igual a la probabilidad de que alguna esa diferencia en alguna de las hipótesis sea mayor que la tolerancia. Esto es igual al sumario de todas las probabilidades para las hipótesis (este es el peor caso porque las consideramos que no se superponen) y por tanto: donde cada uno de estos términos de la sumatoria se refiere a una hipótesis fija, por lo que la desigualdad de Hoeffding se aplica a cada uno de ellos y tenemos que:

8 Por lo tanto ahora tenemos acotada la probabilidad de que el error in sample generalice al error out sample con una tolerancia dada y para un número de muestras dada, pero fijémonos que esta probabilidad depende del número de hipótesis que yo haya utilizado para seleccionar g, y cuanto mayor sea ese número de hipótesis, peor va a generalizar. Cuanto mayor sea M, más sofisticado será el modelo, y cuanto más sofisticado sea el modelo mayores son las posibilidades que memoricemos las muestras y no generalicen bien out of sample. Referencias [1] Machine Learning class lectures by Prof Andrew Ng (Stanford, EEUU) [2] Learning from Data lecture notes from class by Yaser S. Abu-Mostafa (Caltech, EEUU)