LOS modelos de scoring crediticio son aplicaciones que

Transcripción

1 UNIVERSIDAD NACIONAL DE COLOMBIA 1 Técnicas de Minería de Datos Aplicadas a la Construcción de Modelos de Score Crediticio: Estado del Arte Andrés Yesid Ramírez A. Abstract Un score crediticio es una aplicación que determina si un individuo está en capacidad de cumplir con las exigencias de un crédito o por el contrario, puede presentar un comportamiento moroso o fraudulento. Este trabajo presenta una revisión a las técnicas más empleadas en los modelos de score crediticio desde el punto de vista computacional y de la Minería de Datos. Los modelos de score crediticio son ampliamente utilizados en compañías dedicadas a facilitar a sus clientes la adquisición de productos o servicios mediante la otorgación de un crédito. Adicionalmente, se presenta una comparación entre las técnicas aquí descritas y se exponen algunas aplicaciones de estos modelos en algunas comparías. Finalmente, se presentan las conclusiones de este trabajo. Index Terms scoring crediticio, riesgo, crédito, minería de datos, soft computing, redes neuronales, análisis discriminante, máquinas vectoriales de soporte, árboles de decisión, regresión logística. I. INTRODUCCIÓN LOS modelos de scoring crediticio son aplicaciones que permiten apoyar la toma de decisiones en prestigiosas compañías alrededor del mundo. Estos modelos surgen como una necesidad de poder evaluar de forma ágil y rápida las capacidades de endeudamiento de clientes ante la solicitud de un crédito. Aunque existen diversos tipos de compañías y distintos tipo de créditos, la idea general de un modelo de scoring crediticio es, por un lado, seleccionar aquellos individuos que poseen mejores condiciones económicas para retornar a la compañía el valor total del préstamo solicitado; por otra parte, los modelos de scoring crediticio permiten mitigar el riesgo en que se incurriría si se aprueba un crédito a un individuo que no cumple con una capacidad de pago y endeudamiento. En este trabajo se desea revisar algunas de las técnicas más importantes y empleadas alrededor del mundo en cuanto al tema de modelos de scoring automatizados. Estos modelos emplean información recolectada electrónicamente ya sea a través de bases de datos internas a la organización o adquiridos a partir de terceros. Las principales técnicas pueden incorporar análisis estadístico, herramientas de minería, inteligencia artificial y aprendizaje de máquina. En este trabajo se estudian varios modelos de score crediticio. Inicialmente se presenta un proceso general de cómo funciona la solicitud de un crédito. Luego se desarrolla una revisión de algunas técnicas de minería de datos que suelen ser Maestría en Ingeniería de Sistemas y Computación. utilizadas en la constucción de modelos de scroing crediticio. Adicionalmente, los modelos descritos son comparados de acuerdo a la referencia de los autores que han hecho contribuciones en el área. Luego, se presentan algunas consideraciones finales como aplicaciones y casos de éxito; finalmente se presentan las conclusiones de este trabajo. II. PROCESO GENERAL DE SOLICITUD DE CRÉDITO Existen dos formas de pagar un producto o servicio: de contado y a través de crédito. En el pago de contado, un producto o servicio es pagado inmediatamente se adquiere o se consume. En el pago a crédito, un prestamista se hace cargo del total de la obligación (i.e. el producto o servicio) mientras que el aplicante o solicitante al crédito deberá reincorporar en una o varias cuotas el valor que el prestamista cubrió; al valor de estas cuotas se le suma un valor adicional llamado interés el cual se cobra como una facilidad que proporcionó el prestamista. La solicitud de un crédito es una necesidad existente desde hace varios años en donde se tiene por objeto adquirir un beneficio a través de un producto o un servicio. Básicamente se fundamenta en un compromiso que se adquiere entre una entidad prestamista y un solicitane en donde el solicitante recibe un beneficio en el corto plazo y se compromete a pagarlo inmediatamente después de haberlo adquirido en el corto, mediano y/o largo plazo. Un crédito concedido puede ser empleado para adquirir un producto (e.g. vivienda, automovil) o un servicio (e.g. crédito educativo, uso de una tarjeta de crédito). Un proceso general que se suele dar al interior de las organizaciones al momento de aprovar un crédito puede darse en las siguientes condiciones: 1) Un individuo se acerca a la institución con la cual desea pactar un crédito. El tipo de crédito solicitado varía de industria a industria como por ejemplo, creditos para vivienda, para consumo, para educación, para pago de deudas, solicitud de tarjetas de crédito, etc. 2) La institución hace llenar al cliente uno o varios formularios en donde el individuo debe consignar información relacionada con él como por ejemplo sus datos básicos, referencias familiares, personales, laborales, ubicación, antiguedad y cargo laboral que posee a la actalida, etc. 3) Los datos registrados en los formularios son analizados por expertos y adicionalmente son procesados por software especializado, el scoring, el cual debe emitir una

2 UNIVERSIDAD NACIONAL DE COLOMBIA 2 respuesta la cual indica si es posible asignar inmediatamente un concepto favorable o negativo respecto a la información suministrada por el cliente. 4) Después de la evaluación, la entidad es responsable de entregarle una respuesta al cliente. Aunque este proceso es muy general, no todas las organizaciones emplean los mismos mecanismos para la evaluación de sus clientes o aplicantes. Adicionalmente, a veces el proceso puede ser completamente manual. Por otra parte, las entidades prestamistas procuran proteger sus inversiones, por esta razón prefieren negar créditos a personas que no poseen una capacidad clara de pago del beneficio adquirido. Si se acepta un crédito a un individuo que potencialmente puede incurrir en fraude, la entidad está entrando en gastos adicionales al no poder recuperar su inversión de la manera esperada. Los modelos de scoring crediticio nacen alrededor de los años 1950s cuando Bill Fair y Earl Isaac fundan su compañía dedicada a apoyar las actividades de importantes empresas financieras y de ventas al menudeo [1]. Posteriormente, en los años 1960s se inicia el periodo en el que se desarrolla la industria de las tarjetas de crédito con lo cual los bancos ven una gran posibilidad de empezar utilizar modelos de scoring [1]. III. REVISIÓN DE TÉCNICAS DE MINERÍA DE DATOS EMPLEADAS EN LA CONSTRUCCIÓN DE MODELOS DE SCORING CREDITICIO En esta sección se realiza una breve descripción de algunos de los modelos predictivos más empleados en el área de riesgo crediticio, especificamente se habla de algunas de las técnicas más importantes de minería de datos aplicadas a la construcción de modelos de scoring crediticio. Apoyándose en [2] una clasificación adecuada para las tésnicas influyentes en la construcción de modelos de score crediticio es: Modelos Estadísticos. Se consideran los siguientes metodos: Métodos Paramétricos 1. Comprenden técnicas como Análisis Discriminante (Discriminant Analysis) y Regresión Logística (Logistic Regression). Métodos No Paramétricos 2. Incluye técnicas de Árboles de Decisión, K-Nearest Neighbor (K-NN) y Kernel Density. Modelos de Computación Suave o Soft Computing. Se plantean principalmente dos modelos: Redes Neuronales Artificiales (Artificial Neural Networks, ANN). Máquinas Vectoriales de Soporte (Support Vector Machines, SVM). Conjuntos Rugosos (Rough Sets). Modelos Híbridos. Estos métodos representan una extensión a los modelos existentes y consisten en una combinación de técnicas estadísticas o de soft computing otros modelos relacionados. 1 Los métodos paramétricos requieren un conocimiento a priori acerca de las distribución de los datos. 2 No requieren información previa. Varios estudios se han desarrollado desde hace más de cuarenta años en donde se proponen modelos de scoring crediticio que permiten clasificar a los individuos de acuerdo a su capacidad de pago. En [1] se presenta un Estado del Arte en scoring crediticio y scoring comportamental. El artículo se concentra principalmente en mostrar lo que se ha hecho en el área desde la perspectiva de riesgo. Inicialmente se presenta la historia del scoring crediticio. Se vislumbran algunas de las variables que suelen ser importantes en un modelo como las características de la persona, el capital o valor solicitado, la capacidad de pago, las condiciones del mercado. Dentro del survey se mencionan técnicas empleadas en modelos de scoring como la Regresión Logística, Árboles de Decisión, Redes Neuronales, Algoritmos Genéticos y algunos modelos híbridos que aprovechan caracterísitcas de más de un modelo como la combinación de la Programación Lineal con el uso de Redes Neuronales. Por otra parte, se analiza el scoring comportamental o score aplicado sobre comportamientos en grupos de poblaciones. En este sentido se emplean técnicas que describen cómo es el comportamiento de un cliente de acuerdo a los rasgos de la población que lo rodean. Cuando se empezaron a desarrollar algunas de las técnicas de score crediticio, las soluciones que prevalecieron y que aun se utilizan son soluciones que aprovechan características estadísticas de los individuos a analizar. Los modelos más importantes son la Regresión Logística y el Análisis Discriminante Lineal. [3]establece que el Análisis Discriminate (Discriminant Analysis) y la Regresión Logística (Logistic Regression) con dos de las técnicas más empleadas en los modelos de scoring crediticio. El autor muestra que estas técnicas tienen ciertas deficiencias cuando existen datos con una alta dimensionalidad (i.e. muchos aributos a analizar), cuando la muestra o el número de ejemplos es bastante reducido, la selección de las variables y la incapacidad para modelar información no lineal. Similarmente, se han desarrollado trabajos que hacen importantes comparaciones entre estos dos modelos y otros mucho más elaborados. [4] hace una comparación entre el Análisis Discriminante, el Análisis de Probabilidad Unitaria (Probit Analysis) y las Redes Neuronales Artificiales (Artificial Neural Networks). De la misma manera, [5], [6], [7],[8] hacen comparaciones con otros modelos propuestos similares en donde los autores exponen las desventajas ante la falta de precisión de el Análisis Discriminante y la Regresión Logística. Nuevos modelos han surgido y están siendo ampliamente utilizados en la industria. Estos modelos han demostrado ser más efectivos que la Regresión Logística y el Análisis Discriminante Lineal y sus variantes. De los modelos más empleados se encuentran las Redes Neuronales.[9] expone en su trabajo una comparación de cinco arquitecturas de redes neuronales: Multi-Layer Perceptron (MLP), Mixture Of Experts (MOE), Función de Base Radial (Radial Base Function, RBF), Learning Vector Quantization (LVQ) y la Resonancia Adaptativa Difusa (Fuzzy Adaptive Resonance, FAR); adicionalmente [9] compara las redes neuronales con otros modelos como la Regresión Logística y el Análisis Discriminante. De la misma manera, el empleo de las Máquinas Vectoriales de

3 UNIVERSIDAD NACIONAL DE COLOMBIA 3 Soporte (Support Vector Machines, SVM) prometen mostrar mejores resultados de clasificación y predicción que como lo vienen mostrando las redes neuronales. [10], [11] emplean las Máquinas Vectoriales de Soporte y proponen modelos de scoring crediticio que, según sus experimentos, muestran mejor desempeño y exactitud en la predicción que aquel desempeño mostrado por las redes neuronales. Estos trabajos no concluyen contundentemente cuál de los modelos es mejor, pues el desempeño ante la predicción no es notoria de una manera significativa. Actualmente se están desarrollando nuevas técnicas que puedan mostrar un mejor desempeño. Algunas de estas técnicas consisten en la construcción de modelos híbridos que fusionen crcterísticas de técnicas estadísticas y de aprendizaje de máquina. [6] desarrolla un modelo híbrido que emplea redes neuronales artificiales y Curvas de Regresión Adaptativas Multivariadas (Multivariate Adaptative Regression Splines, MARS). Similarmente, [12] presenta una arquitectura híbrida para generar un modelo de scoring. Se fundamente en dos herramientas ampliamente utilizadas en la minería de datos: Clustering y Redes Neuronales. [7] muestra una combinación de las redes neuronales con el Análisis Discriminante. Todos estos modelos han mostrado ser exitosos, algunos más que otros. Sin embargo, hoy en día se suelen utilizar preferiblemente las redes neuronales con una aruitectura MLP, pues han demostrado ser precisas en las predicciones. Igualmente, los SVM están siendo implementados en distintas empresas y muestran un desempeño, en algunos casos, mejor al presentado por las redes neuronales. Sin embargo, estos modelos suelen ser poco descriptivos y se convierten en cajas negras, pues no se puede obtener información adicional que permita comprender otras características que afectan la decisión. Para solucionar este inconveniente se recurre a otras técnicas como los árboles de decisión y las generación de reglas los cuales son técnicas que son más descriptivas. [13] propone un modelo basado en la Programación Genética (Genetic Programming, GP) el cual se aplica en dos fases; este modelo genera reglas descriptivas de la clasificación que se le debe dar a un individuo. [14] proponen un modelo de scoring basado en GP el cual es comparado contra otros modelos tradicionales ampliamente empleados en el campo de scorings. La Programación Genética GP extrae automáticamente relaciones inteligibles en un sistema que ha sido usado en muchas aplicaciones como en la regresión simbólica y la clasificación. GP es similar a un árbol de decisión; posee conjunto de funciones que contienen sentencias y operadores y un conjunto terminal el cual contiene las entradas del modelo. El procesamiento es similar a los algoritmos genéticos. Aunque existen diversas técnicas con las cuales se puede desarrollar un modelo de scoring, en este trabajo sólo se habla de algunas de las más utilizadas en la industria. La Figura 1 muestra aquellos de los modelos más empleados en la industria: Para fines de este trabajo, se considera hacer una revisión sobre el Análisis Discriminante, la Regresión Logística, Árboles de Decisión, Redes Neuronales y las Máquinas Vectoriales de Figure 1. Modelos de Scoring Crediticio Soporte. Adicionalmente se explica brevemente, algunas de las técnicas híbridas que están siendo implementadas en la actualidad. A. Análisis Discriminante El Análisis Discriminante (Discriminant Analysis, DA) es una técnica de clasificación y discriminación propuesta por Fisher en 1936 [4]. Uno de los requerimientos importantes para poder emplear esta técnica dentro de un modelo de scoring crediticio es que los datos deben ser independientes y deben presentar una distribución normal [4]. De acuerdo a [7] DA es una de las técnicas más empleadas y discutidas dentro del campo de técnicas de clasificación. La idea general de DA es encontrar la mejor combinación lineal de las variables predictoras con el objetivo de clasificar los objetos en dos o más grupos procurando encontrar una exactitud de predicción óptima [7]. Esto es, maximizar la varianza intergrupos respecto a la varianza intra-grupo [8]. Tanto [4], [7] y [8] coinciden en que la ecuación de DA es una función lineal que posee la forma: Z = α + w 1 x 1 + w 2 x w n x n (1) Donde xi (i = 1,2,.., n) es conjunto de datos de entrada (i.e. vector de datos de entrada X), wi (j = 1, 2,..., n) o W es el vector de coeficientes o pesos discriminantes, α es el punto de intersección con un eje y Z es la variable discriminante (i.e. score discriminante). El vector de pesos W, de acuerdo a [5] debe ser tal que maximiza 3 : (W µ 1 W µ 2 )/(W ΣW ) (2) En este coeficiente o ratio, µ 1 y µ 2 son vectores medios poblacionales de dos categorías, W es el vector de pesos traspuesto y Σ es la matriz común de covarianza entre dos poblaciones. Esto quiere decir que si la diferencia entre los vectores medios de pesos es maximizado con relación a la covarianza común, el riesgo de mal-clasificar sería relativamente 3 Se asume que existen dos grupos dentro de la población. Como alcance de este trabajo, un modelo de scoring considera aquellos clientes que manejan su crédito de una manera excelente; el otro grupo son aquellos individuos que son morosos.

4 UNIVERSIDAD NACIONAL DE COLOMBIA 4 bajo [5]. Adicionalmente, [5] expone que DA debe asumir las siguientes condiciones: 1) Las variables predictoras deben ser medidas dentro de un intervalo. 2) la matriz de covarianza de las variables predictoras son iguales para dos grupos. 3) Las variables predictoras siguen una distribución normal multivariada. En [7] se indica que DA es ampliamente utilizado en muchas áreas del conocimiento como biología, medicina, educación, ingeniería, entre otras. B. Regresión Logística La Regresión Logística (Logistic Regression, LR) es una técnica estadística ampliamente utilizada en los modelos de score crediticio, así como en otras áreas. Esta técnica considera un conjunto de variables independientes o predictoras y una variable dependiente con dos posibles valores (i.e. variable dicótoma). De acuerdo a [5], la forma general es: 1 Z = 1 + e z (3) Donde Z es la probabilidad de la clase recordando que la variable dependiente posee dos valores posibles. Para el caso de un modelo de score, se consideran dos posibles resultados: un cliente con buen hábito de pago y uno moroso. Para complementar, z obedece a: de mercado, así como scoring crediticios para préstamos personales y aplicaciones con tarjetas de crédito. C. Árboles de Decisión Los Árboles de Decisión (Decision Trees, DT) son una popular herramienta utilizada en análisis estadístico y minería de datos. DT son ideales para realizar clasificaciòn y predicción [15] y en general, los métodos basados en árboles representan reglas. Según [15], los árboles de decisión son muy útiles en la exploración de datos en donde se desea encontrar relaciones en una cantidad enorme de datos. También DT combina la exploración y modelamiento de datos. Un Árbol de Decisión es una estructura que permite dividir un extenso conjunto de datos relacionados entre sí (i.e. registros), en conjuntos más pequeños de datos a través de la aplicación secuencial de sencillas reglas de decisión [15]. Adicionalmente, los Árboles de Decisión poseen una estructura de árbol donde cada nodo representa un prueba o condición sobre el valor de un atributo, las ramas representan el resultado de la evaluación del atributo y las hojas (i.e. nodos finales en el árbol) son las clases o variables dependientes [16]. La Figura 2 muestra un sencillo ejemplo de DT adaptado de [16] en donde se desea conocer qué tipo de población podría adquirir un computador; en este caso, la clase es saber si se compra o no computador teniendo como referencias atributos como edad, comportamiento crediticio y si es estudiante. z = α + w 1 x 1 + w 2 x w n x n (4) Donde xi (i = 1,2,..., n) es el conjunto de variables predictoras o conjunto de entrada, α es el punto de intersección y wi es el conjunto de coeficientes o vector de pesos W que ajustan el modelo. Esta ecuación también puede ser expresada como: log[p/(1 p)] = α + w 1 x 1 + w 2 x w n x n (5) En donde p es la probabilidad del resultado de interés, i.e. la probabilidad a priori de que un individuo tenga buen hábito de pago o la probabilidad de que un individuo pueda ser moroso o incurrir en fraude. De acuerdo a [6] y [5], LR no hace las suposiciones que realiza DA, pues se indica que siempre que las suposiciones sobre DA sean satisfechas, se espera que LR pueda llegar a ser casi tan eficiente en la predicción como DA. Adicionalmente, [4] y [7] indican que DA ofrece varias ventajas sobre LR como: 1) El vector de pesos W puede ser estimado utilizando la técnica de Mínimos Cuadrados, mientras que para LR se requiere métodos que permitan encontrar la probabilidad máxima. 2) Las probabilidades a priori y los costos de misclasificación pueden ser fácilmente incorporados en una solución DA. En su trabajo, [7] expone que la regresión logística LR ha sido implementada en muchos campos como investigación social y médica, diseño, sistemas de control, predicción, segmentación Figure 2. Ejemplo de un árbol de decisión. Para la construcción del árbol de decisión se utilizan técnicas de particionamiento llamadas Inducción de Árbol de Decisión (Decision Tree Induction) en donde se busca un atributo de un registro que pueda particionar de la mejor manera el conjunto de datos hasta obtener las clases o variables dependientes [16]. Los autores en [15] indican que una manera adecuada de dividir el conjunto de datos es a través de la Pureza y Diversidad en donde se consideran varias técnicas: Diversidad de la Población, también llamada Índice Gini. Ganancia de Información, conocida como Entropía. Índice de Ganancia de Información. Prueba de Chi-Cuadrado.

5 UNIVERSIDAD NACIONAL DE COLOMBIA 5 Para aplicar estas técnicas se deben hacer consideraciones sobre el tipo de atributo que se presenta (e.g. nominal, numérico, discreto, continuo, etc.). Igualmente, se consideran técnicas de pre-procesamiento de datos que permiten lograr una pureza y consistencia en los datos. Algunos algoritmos más conocidos para la construcción de árboles de decisión son ID3, C4.5, C5 4 y CART (Classification And Regression Tree) [15]. D. Redes Neuronales Las Redes Neuronales Artificiales (Artificial Neural Networks, ANN) son unas estructuras computacionales que han sido inspiradas en sistemas neuronales biológicos [17]. Básicamente, una ANN está conformada por nodos llamados neuronas y por las conexiones existentes entre estos nodos. Su objetivo principal es transformar un conjunto de datos de entrada en un conjunto de datos de salida en donde entradas y salidas son datos numéricos. Esta transformación se da a través de la interconexión de las neuronas que conducen los datos desde una capa de entrada hasta una capa de salida. La siguiente figura muestra un modelo general de una red neuronal; la capa de entrada recibe todo el conjunto de variables numéricas, se puede contar con cero o más capas ocultas y una capa de salida donde se encuentran las variables dependientes. Como recomendación, los datos de entrada deben ser numéricos y debe estar normalizados. Adicionalmente, las conexiones entre las neuronas juegan un papel importante en el sistema, pues en ellas se determina cómo debe funcionar el modelo; esto significa que cada conexión posee un peso lo cual influye en las capacidades de clasificación y/o predicción. estableces que con una sola capa oculta es suficiente para modelar un sistema complejo que produzca una buena exactitud. Por otra parte, [18] establece que el número de neuronas en las capas ocultas y el número de capas ocultas puede ser determinado a través de ensayo y error. Para poner en funcionamiento una Red Neuronal se deben considerar tres fases importantes: 1) Construcción de la arquitectura de ANN. Aquí se determinan las variables de entrada, la clase o variable dependiente a predecir y la topología de la red. Tanto las variables de entrada como de salida deben ser previamente normalizados para evitar que algunos atributos tengan más influencia que otros.. 2) Entrenamiento y validación del modelo. En esta fase se ajustan los pesos de las conexiones hasta que el error resultante del modelo sea lo más reducido posible, i.e. la diferencia entre la salida esperada y la real tienda a ser cero. 3) Predicción y/o clasificación. Una vez entrenado el modelo, se procede a mostrarle a la ANN nuevos casos. Estos casos no han sido tratados anteriormente por el sistema. El modelo de ANN debe estar en capacidad de clasificar y/o predecir cada nuevo caso. Sin embargo, [15] considera 7 etapas para la contrucción y puesta en funcionamiento de la ANN, pero para efectos prácticos las tres fases anteriores expresan la misma idea. Para el caso de este trabajo y apoyándose en [19], una red neuronal adecuada en la construcción de un modelo de scoring puede estar conformada por: Tantas neuronas en la capa de entrada como atributos numéricos posea el individuo solicitante del crédito. Una neurona en la capa de salida que clasifique el comportamiento crediticio del cliente; usualmente, bueno o malo. Aunque se podrían considerar más neuronas en esta capa dependiendo de las necesidades que se deseen cubrir. Una capa intermedia u oculta. Figure 3. Modelo General de una Red Neuronal. Una vez definida la arquitectura o la topología de la Red Neuronal, es necesario iniciar el proceso de aprendizaje o entrenamiento. En este proceso, como se mencionó anteriormente, se desea encontrar la combinación adecuada de pesos en las conexiones que conlleven a la reducción del error en la capa de salida. La Figura 4 muestra una neurona de una capa oculta de una Red Neuronal (e.g. Backpropagation Backpropagation Neural Network, BPN). De manera general, cada neurona en determinada capa toma el conjunto de pesos multiplicado por la entrada correspondiente en donde inicialmente los pesos son asignados de manera aleatoria. Esto es: De acuerdo a [12] y [6] el número de capas ocultas y el número de neuronas en las capas ocultas es uno de los problemas más difíciles de tratar; adicionalmente, los autores 4 C4.5 y C5 son extensiones del agoritmo ID3. Los tres modelos han sido desarrollados por J. Ross Quinlan. I = w i x i + θ (6) Donde I es la entrada de la neurona y θ es un peso adicional que influencia el resultado (i.e. bias). Posteriormente se procesa la entrada a través de una función de activación, i.e. la neurona se excita o se inhibe dependiendo del valor I. Existen

6 UNIVERSIDAD NACIONAL DE COLOMBIA 6 Figure 4. Detalle de una Neurona. varios tipos de funciones de activación que suelen producir valores entre 0 y 1 o entre -1 y 1, i.e. el resultado se encuentra normalizado. Algunas de las funciones de activación f(i) más empleadas son la función sigmoidal, la función logística [16] y la función tangente hiperbólica [15]. En la mayoría de los casos, las funciones de activación a emplear en la red neuronal son no lineales (i.e. salida de la neurona) [17]. Finalmente, los pesos deben ser ajustados iterativamente de acuerdo a un criterio apropiado como por ejemplo la minimización del Error Cuadrático Medio (Sum of Squared Error, SEE) [5], [17]: de la tecnología de redes neuronales basado en aprendizaje estadístico. SVM funciona correctamente con datos altamente dimensionales y evita el problema de la maldición de la dimensionalidad [17]. La idea general de SVM es encontrar hiplerplanos óptimos que separen de la mejor manera posible un conjunto de datos en dos o más clases. En la práctica es posible que los datos existentes no puedan ser separables linealmente, por este motivo se recurre a estrategias de cambio de dimensionalidad, i.e., se hace un cambio a un número mayor de dimensiones dependiendo del número de atributos existentes en el conjunto de entrada; una vez hecho el cambio de dimensión, es factible encontrar un hiperplano que separe correctamente los datos en dos clases. Para clarificar este concepto, la figura 5 muestra un conjunto de datos los cuales pueden ser separables en dos clases. Sin embargo, existen muchas soluciones para separar este conjunto de datos. SSE(W ) = 1 2 (yi ŷ i ) 2 (7) Donde el SSE depende de W debido a que la clase estimada ŷes una función de los pesos asignada a las neuronas de las capas ocultas y la capa de salida (i.e. f(i)=ŷ) [17]. Para apoyar el proceso de aprendizaje se utiliza la tasa de aprendizaje (learning rate). La decisión de la escogencia de la tasa de aprendizaje es crucial, pues si se escoge una tasa muy pequeña, el proceso de aprendizaje se vuelve lento y la convergencia es demorada. Por otra parte, si la tasa es grande provocará una oscilación en el modelo y la convergencia no se dará [6]. Para el caso de una BPN, uno de los algoritmos de aprendizaje más empleados es el Gradiente Descendiente [6]. Sin embargo, BPN es sólo una topología específica y una manera de cómo se puede diseñar un modelo de scoring. El autor [9] expone un trabajo muy descriptivo de cinco arquitecturas de redes neuronales aplicadas a modelos de scoring. Los modelos descritos en [9] son: Multi-Layer Perceptron, MLP. Mixture of Experts, MOE. Radial Basis Function, RBF. Learning Vector Quantization, LVQ. Fuzzy Adaptive Resonance, FAR. Adicionalmente, cada modelo es comparado contra los otros cuatro y contra otros modelos como la Regresión Logística, Análisis Discriminante, Kernel Density, CART y K-Nearest Neighbor. E. Máquinas Vectoriales de Soporte De acuerdo a [10], las Máquinas Vectoriales de Soporte (Support Vector Machines, SVM) son el Estado del Arte Figure 5. Separación de clases a través de hiperplanos. Dados estos hiperplanos que separan el conjunto de datos, el objetivo de SVM es poder encontrar un hiperplano óptimo para que separe las clases. La figura 6 expresa este resultado. En este caso, el hiperplano B 1 es mucho mejor que B 2, pues la margen que separa los datos en B 1 (distancia entre b 11 y b 12 ) es mucho más grande que la margen que separa los datos con B 2 (distancia entre b 21 y b 22 ). Las márgenes están definidas por aquellos datos que están más cerca al hiperplano donde b ij son hiperplanos paralelos a B i. De manera general, un hiperplano que separa dos clases está definido por: W.X + b = 0 (8) Donde W es el vector de pesos o coeficientes, X es el vector de datos de entrada en el modelo y b es la intersección en el eje. Adicionalmente, la margen está dada por [17]: d = 2 W (9)

7 UNIVERSIDAD NACIONAL DE COLOMBIA 7 1) Emplear clustering para preprocesar las muestras con el objetivo de aislar aquellas muestras menos representativas. 2) Construcción de una ANN para la generación del modelo de scoring. Para el análisis de clustering se emplea Mapas Auto Organizados (Self-Organized Maps, SOM) el cual permite generar automáticamente los clusters para el estudio. Posteriormente se aplica el algoritmo de K-means que elimina aquellos cluster que no poseen muestras representativas. Por otra parte, [11] propone una combinación entre SVM y Algoritmos Genéticos (Genetic Algorithms, GA). Los autores en [11] muestran las características de las Máquinas Vectoriales de Soporte a través de una breve explicación. En el trabajo también se consideran varias estrategias para construir las SVM. Se emplea Algoritmos Genéticos con el fin de optimizar los parámetros y el subconjunto óptimo de caractarísticas que alimentan el SVM. Figure 6. Hiperplano óptimo para la separación de clases. Que es la función a maximizar la cual se puede escribir equivalentemente como: Sujeto a: W 2 min 2 y i (W.X i + b) 1, i = 1, 2,..., N (10) En donde y i es el valor que toma la clase para el registro i y N es el número de registros a examinar. Aunque este es el caso en donde las clases son linealmente separables, existe una teoría detallada alrededor de SVM donde se proponen estrategias que permiten separar conjuntos de datos no separables linealmente. Los autores en [20], [21], [22] y [17] proponen un análisi detallado de cómo solucionar estos casos. F. Modelos Híbridos Aunque los modelos descritos anteriormente han sido empleados satisfactoriamente en la industria desde los años 1950s, siempre existe la necesidad de proponer modelos que superen a sus antecesores. Por ello, diversos investigadores han invertido esfuerzos en desarrollar arquitecturas que sean capaces de desempeñar un mejor predicción en cuanto a modelos de score crediticio, es decir, que con un mayor grado de exactitud se pueda catalogar a un individuo con una buena o mala capacidad crediticia. El autor en [12] presenta una arquitectura híbrida para generar un modelo de scoring. Se fundamenta en dos herramientas ampliamente utilizadas en la minería de datos: Clustering y Redes Neuronales. En este orden de ideas se consideran dos fases: Similarmente, [6] emplean dos estrategias para la construcción de un modelo de scoring. Primero se utilizan Curvas de regresión Adaptativas Multivariadas (Multivariate Adaptive Regression Splines, MARS) en donde se extraen las variables adecuadas las cuales serán pasadas a un modelo de ANN. MARS es capaz de modelar relaciones complejas no lineales. También pueden capturar la importancia relativa de las variables independientes a las variables dependientes cuando han sido consideradas muchas variables dependientes. Por otra parte, MARS no necesita largos tiempos de entrenamiento. Finalmente, MARS produce resultados que son fácilmente interpretables. La idea final del trabajo es proponer un modelo híbrido que confíe la generación de un modelo de scoring en MARS en primera fase y de Redes Neuronales de Back Propagation en segunda instancia. En [7], los autores establecen un modelo híbrido que aproveche las ventajas de las Redes Neuronales (ANN) trabajando en conjunto con el Análisis Discriminante (DA). Para ello se emplean redes neuronales tipo Back Propagation, BPN. Lo que muestra el trabajo es que este modelo híbrido converge más rápido hacia una solución que una ANN tradicional. En una primera fase, DA es utilizado para determinar las variables apropiadas que alimentarán una ANN. IV. COMPARACIÓN DE MODELOS Una vez que se han descrito los modelos, se procede a hacer una comparación entre los mismos. Esto con el objetivo de determinar cuáles son los modelos que resultan ser más eficientes, esto es, qué modelos posee una mayor precisión y exactitud en el momento de clasificar y/o predecir el comportamiento crediticio de un individuo. En [4] se muestra que dentro de las técnicas tradicionales, la Regresión Lineal es la que mejor exactitud en predicción muestra. Sin embargo, las Redes Neuronales muestran una mayor exactitud en cada una de las ejecuciones que los autores realizan. En general, los modelos aquí presentados predicen mejor los buenos créditos que los malos con excepción de

8 UNIVERSIDAD NACIONAL DE COLOMBIA 8 dos casos de Análisis Discriminante (DA). El mejor predictor para la clase buena (i.e. buen crédito) es una red neuronal probabilística (Probabilistic Neural Networks, PNN) mientras que una Red Neuronal Multicapa Feed-Forward (Multi-Layer Feed Forward Network, MLFN) predice mejor los créditos malos. Según [5] los mejores resultados obtenidos en la ejecución de varios modelos de scoring crediticio, las Redes Neuronales son una gran opción para clasificar los créditos malos. Sin embargo al comparar el promedio de los resultados, tanto de buenos créditos como de malos, la Regresión Logística se aproxima bastante a los resultados obtenidos por una red neuronal. De acuerdo a [12], el modelo híbrido propuesto indica que se obtienen resultados satisfactorios al emplear clustering en la fase de procesamiento de datos y posteriormente aplicar una topología de red neuronal. El autor concluye que este tipo de modelo puede presentar resultados interesantes en el mercado crediticio. Los autores en [23] indican que las redes neuronales presentan una ventaja respecto a otros modelos. Una Red Neuronal Multilayer Perceptron presenta una superioridad en excatitud en predicción frente Naïve Bayes, C4.5, ID3, Red Neuronal de Base Radial, entre otros. Sin embargo, los resultados obtenidos presentan pequeñas diferencias. Por otra parte, en [13] se expone que el modelo planteado de Programación Genética en dos Fases (Two Stage Genetic Programming, 2SGP) es un modelo flexible y apropiado para implementar sobre scoring crediticio y que su exactitud muestra un mejor desempñeo frente a otros modelo propuestos como el Perceptron Multicapa, CART, Programación Genética (Genetic Programming, GP), C4.5, Regresión Lineal (LR), entre otros. Por su parte, los autores en [11] indican que las redes neuronales poseen un mayor grado de precisión en anomalías bancarias y están seguidas por el Análisis Discriminante, Regresión Logística, Árboles de Decisión y K-Nearest Neighbor. Sin embargo el trabajo de los autores advierte que los SVM son muy competitivos frente a las Redes Neuronales y Programación Genética en términos de exactitud. Con un modelo híbrido utilizando SVM y GA, los autores presentan buenos resultados frente a modelos tradicionales más la calidad de la exactitud no es contundente, pues la diferencia entre la precisión de los modelos es baja. Los autores en [6] indican que su modelo híbrido entre ANN y MARS es bastante preciso, pero no supera contundentemente la precisión ofrecida por otros modelos como una Red Neuroanl BPN, pues apenas lo supera por una fracción muy pequeña. Como aporte final del modelo, indica que BPN- MARS logra encontrar las mejores variables independientes y una función de predicción apropiada, tema que suele ser una molestia en las ANN tradicionales. En [7] se plantea que el modelo híbrido brinda mejores resultados que modelos tradicionales como el Análisis Discriminante, la Regresión Logística y Redes Neuronales BPN. El modelo híbrido (ANN-DA) también presenta una disminución en los errores Tipo II (i.e. aquellos errores presentados al catalogar una clase negativa como positiva, llamados falsos negativos) en comparcación con las redes neuronales. V. CASOS DE ÉXITO EN LA IMPLEMENTACIÓN DE MODELOS DE SCORE Actualmente, existen muchas compañías que han implementado satisfactoriamente modelos de score crediticio. Sin embargo, desde la perspectiva comercial, se han venido constituyendo empresas dedicadas a proveer soluciones de alto impacto desde el punto de vista de Inteligencia de Negocios (Business Intelligence, BI), Minería de Datos, Análisis Financiero, Toma de Decisiones, entre otros. Algunas de las compañías que más éxito han tenido en la implementación de modelos de score crediticio son: Fair Isaac ( Posee herramientas para el análisis predictivo y de scoring en donde se desea percibir el comportamiento futuro de los clientes. SPSS ( A través de Clementine, SPSS brinda una apoyo a las organizaciones con el objetivo de aplicar técnicas de Minería de Datos empleando Análisis Predictivo con estrategias como detección de fraude, mitigación de riesgo, adquisición y retención de clientes, modelos de score crediticio, entre otros. SAS ( Proporciona soluciones estadísticas y de minería de datos que son fácilmente implementables en la industria. Se concentra en tratar temas como prevención de lavado de activos (Anti- Money Laundering, AML), Administración de Riesgo, BI, Análisis Predictivo, entre otros. Estas compañías son capaces de ofrecer soluciones inteligentes que puedan apoyar de una manera ágil, cada una de las actividades de cualquier empresa en cualquier industria. Sin embargo, últimamente con los avances técnológicos y la competitividad, desde el punto de vista de desarrollo de software, casas desarrolladoras están ofreciendo soluciones fácilmente adaptables a las complejas industrias. Se tiene el caso de: IBM ( Apoya procesos de toma de decisiones a través de Data Warehousing Business Intelligence & Analysis. Oracle ( Ofrece soluciones completas para apoyo de decisiones a través de la Base de Datos empresarial utilizando Oracle Data Miner, Oracle Data Warehouse y BI. Por otra parte, la lista de empresas que han desarrollado y adquirido modelos a fin de atender su operación diaria se podría considerar interminable. Sin embargo, algunos casos de éxito son: Franquicias proveedoras de tarjetas de crédito como Master Card, American Express, Visa. El uso de modelos de scoring ha reducido considerablemente los tiempos empleados en la evaluación de un cliente. Entidades bancarias como por ejemplo HSBC ofrece servicios a sus clientes para aplicar a la solicitud de tarjetas de crédito a través de Internet. Adicionalmente, Fair Isaac reporta en su portal web a HSBC como un

9 UNIVERSIDAD NACIONAL DE COLOMBIA 9 caso de éxito en donde se pretende integrar sistemas de toma de decisiones alrededor del mundo con el objetivo de mejorar los servicios que presta el banco. VI. CONCLUSIONES En este artículo se han presentado algunas de las técnicas más importantes empleadas en la construcción de modelos de scoring crediticio. Adicionalmente se ha hecho una comparación entre los distintos modelos presentados como la Regresión Logística, el Análisis Discriminante, los Árboles de Decisión, las Redes Neuronales y las Máquinas Vectoriales de Soporte. Adicionalmente se ha hecho una breve revisión de algunos modelos híbridos los cuales son mezclas de otras técnicas. Su objetivo es tratar de producir modelos de scoring que sean superiores a aquellos que la industria viene empleando. Por otra parte, se ha realizado un comparación entre los distintos modelos en donde los modelos sobresalientes son las redes neuronales y las máquinas vectoriales de soporte (SVM). Sin embargo, no se desconoce el el esfuerzo y la precisión presentada por modelos híbridos. Estos modelos híbridos han mostrado lees mejoras frente a modelos tradicionales, sin embargo dichos modelos no son contundentes y la diferencia entre estos y lso tradicionales suele ser muy baja. Por otra parte, de acuerdo a lo que han reportado varios autores, las consideraciones importantes para construir un buen modelo radica en la calidad de los datos escogidos y en la selección adecuada de las variables que influyen en los modelos. Todo esto depende también de las técnicas de minería empleadas en el preprocesamiento de los datos y de cómo afronte el modelo la información disponible. Adicionalmente, este artículo presenta algunos casos de éxito en compañías proveedoras, desarrolladoras y consumidoras de modelos de scoring. La lista de casos exitosos puede ser interminable debido al dinamismo de las diferentes industrias en donde las organizaciones están siendo conscientes de proveer facilidades crediticias a sus consumidores.

10 UNIVERSIDAD NACIONAL DE COLOMBIA 10 REFERENCES [1] L. C. Thomas, A survey of credit and behavioural scoring: forecasting financial risk of lending to consumers, International Journal of Forecasting, vol. 16, pp , [2] J. Huysmans, B. Baesens, J. Vanthienen, and T. van Gestel, Failure prediction with self organizing maps, Expert Systems with Applications, vol. 30, pp , Apr [3] Y. Yang, Adaptive credit scoring with kernel learning methods, European Journal of Operational Research, vol. 183, pp , Dec [4] H. Abdou, J. Pointon, and A. El-Masry, Neural nets versus conventional techniques in credit scoring in egyptian banking, Expert Systems with Applications, vol. In Press, Corrected Proof, p. 1606, [5] V. S. Desai, J. N. Crook, and G. A. Overstreet, A comparison of neural networks and linear scoring models in the credit union environment, European Journal of Operational Research, vol. 95, pp , Nov [6] T.-S. Lee and I.-F. Chen, A two-stage hybrid credit scoring model using artificial neural networks and multivariate adaptive regression splines, Expert Systems with Applications, vol. 28, pp , May [7] T.-S. Lee, C.-C. Chiu, C.-J. Lu, and I.-F. Chen, Credit scoring using the hybrid neural discriminant technique, Expert Systems with Applications, vol. 23, pp , Oct [8] R. Malhotra and D. K. Malhotra, Evaluating consumer loans using neural networks, Omega, vol. 31, pp , Apr [9] D. West, Neural network credit scoring models, Computers & Operations Research, vol. 27, pp , Sept [10] S.-T. Li, W. Shiue, and M.-H. Huang, The evaluation of consumer loans using support vector machines, Expert Systems with Applications, vol. 30, pp , May [11] C.-L. Huang, M.-C. Chen, and C.-J. Wang, Credit scoring with a data mining approach based on support vector machines, Expert Systems with Applications, vol. 33, pp , Nov [12] N.-C. Hsieh, Hybrid mining approach in the design of credit scoring models, Expert Systems with Applications, vol. 28, pp , May [13] J.-J. Huang, G.-H. Tzeng, and C.-S. Ong, Two-stage genetic programming (2sgp) for the credit scoring model, Applied Mathematics and Computation, vol. 174, pp , Mar [14] C.-S. Ong, J.-J. Huang, and G.-H. Tzeng, Building credit scoring models using genetic programming, Expert Systems with Applications, vol. 29, pp , July [15] M. Berry and G. Linoff, Data Mining Techniques. For Marketing Sales and Customer Relationship Management. Wiley Publishing, [16] J. Han and M. Kamber, Data Mining. Concepts and Techniques. Morgan Kaufmann., [17] P. N. Tan, M. Steinbach, and V. Kumar, Introduction to Data Mining. Addison Wesley, [18] Y. S. Kim and S. Y. Sohn, Managing loan customers using misclassification patterns of credit scoring model, Expert Systems with Applications, vol. 26, pp , May [19] M.-C. Chen and S.-H. Huang, Credit scoring and rejected instances reassigning through evolutionary computation techniques, Expert Systems with Applications, vol. 24, pp , May [20] S. Abe, Support Vector Machines for Pattern Classification. Springer, [21] N. Cristianini and J. Shawe-Taylor, An Introduction to Support Vector Machines and Other Kernel-based Learning Methods. Cambridge University Press, [22] V. Kecman, Learning and Soft Computing: Support Vector Machines, Neural Networks, and Fuzzy Logic Models. The MIT Press, 1 ed., Mar [23] Y.-M. Huang, C.-M. Hung, and H. C. Jiau, Evaluation of neural networks and data mining methods on a credit assessment task for class imbalance problem, Nonlinear Analysis: Real World Applications, vol. 7, pp , Sept PLACE PHOTO HERE Andrés Ramírez es estudiante de la Maestría en Ingeniería de Sistemas y Computación de la Universidad Nacional de Colombia. Posee título profesional como Ingeniero de Sistemas de la Universidad Nacional de Colombia (2003) y es Especialista en Sistemas de Información en la Organización de la Universidad de Los Andes (2007). Bogotá D.C., Colombia