Red Neuronal para el Reconocimiento de Patrones

Transcripción

1 Conferencia Taller Sistemas Neuro borrosos 26 de abril de 2017 Red Neuronal para el Reconocimiento de Patrones Juan Carlos Alvarado Pérez Facultad de Ingeniería Programa de ingeniería informática Corporación Universitaria Autónoma de Nariño

2 Introducción Una característica del sistema de procesamiento visual humano es su flexibilidad: somos capaces de identificar un patrón, un tipo de estímulo, con independencia, sus posibles variaciones en tamaño, posición en el contexto y orientación espacial; e incluso cuando su forma varía en ciertos límites. Figura 1 Figura 1: Distintos tipos de un mismo carácter En todos ellos reconocemos sin dificultad la letra "E", y todos ellos pueden interpretarse como variaciones del mismo patrón, el correspondiente a dicha letra. Podemos llamar reconocimiento de patrones al hecho de identificar distintos estímulos haciéndolos pertenecer a la misma clase. Para ello hacemos uso de las denominadas plantillas mentales. De forma digital, podemos simular este proceso por medio de redes neuronales las cuales son ampliamente utilizadas en la clasificación de distintos tipos de patrones, como lo son el reconocimiento de sonidos, huella dactilar, reconocimiento de imagen, identificación de caracteres entre otros. Pare el reconocimiento de un carácter el proceso se puede realizar mediante el entrenamiento de una red neuronal que se adapta a la forma de escribir particular de cada persona. Para el reconocimiento de caracteres escritos no existe un patrón exacto, y por tanto tampoco una solución algorítmica. Cada persona tiene su forma de escribir y existen tantas "variaciones" del alfabeto como individuos. Pensado algorítmicamente, el problema puede resultar a priori sencillo. Basta con emplear tablas de búsqueda que relacionen el patrón de bits correspondiente a cada carácter con, su código ASCII, por ejemplo. Aunque la aproximación de la tabla de búsqueda es razonablemente rápida y de fácil mantenimiento, hay muchas situaciones que se dan en sistemas reales y que no se

3 pueden resolver mediante este método, por ejemplo, si se introduce un carácter que varíe del original en un solo píxel, el algoritmo daría lugar a un error o a un código ASCII incorrecto, pues la coincidencia entre la trama de entrada y la trama original debe ser exacta. La solución algorítmica es, por tanto, demasiado estricta para el mundo real y se trata, en definitiva, de un caso particular de Sistema de Reconocimiento Automático de Formas [1] que, por tanto, consta de una etapa de aislamiento de los objetos a reconocer (en este caso caracteres manuscritos), mediante la extracción de sus características individuales. La solución neuronal, al basarse en la estructura del cerebro humano, mucho más flexible; es capaz de deducir la trama original a partir de una trama de entrada distorsionada, tal sistema no es sino la combinación de una gran cantidad de elementos simples de proceso (nodos o neuronas) interconectados que, operando de forma masivamente paralela, consiguen resolver el problema [2]. Procedimiento Se creó una clase denominada PanelDibujo.java, el cual es un objeto grafico que contiene una cuadricula de 20 por 20 celdas, en la que se escribe a mano alzada la letra que se quiere representar Figura 2 Figura 2: Panel de 20 por 20 celdas Uno de los métodos de la clase PanelDibujo.java es getimagen(), el cual retorna un vector de 400 valores de ceros y unos, este vector es la entrada de la red neuronal, en él están representadas las 20 x 20 celdas, es decir las 400 coordenadas X Y, en este vector cero(0) representa la ausencia de grafico en dicha área de la imagen y uno(1) representa que en dicha área existe un punto de la imagen.

4 Existen muchos tipos de redes neuronales, un modelo utilizado en una gran variedad de aplicaciones, entre las que se incluyen las de reconocimiento de formas [3][4], es la red multicapa con conexiones unidireccionales hacia delante (feedfoward). Figura 3 muestra la red de este tipo utilizada en sistemas OCR. El modelo de red utilizado para esta aplicación corresponde al modelo de McCulloch- Pitts [5], donde las entradas son binarias y la función de activación también lo es. Esta red consta de dos capas. El vector de coordenadas X Y de 400 valores, es la entrada de la primer capa, la cual consta de 200 neuronas, por lo tanto a esta capa es asociada una matriz de pesos aleatorios de 200 por 400, haciendo corresponder a las 200 neuronas un peso por cada coordenada X Y. Además cada neurona tiene un umbral, los cuales son representados en un vector de 200 valores aleatorios. El resultado de esta capa será la entrada de la capa 2, el cual es un vector de 200 valores calculado de la siguiente forma: yi = f(σ wij xj - θi ) = f(σ wij xj ) (x0 = 1, wi0 = θi ) es decir, cada valor del vector resultante es la sumatroria de multiplicar cada peso sináptico por el correspondiente valor en el vector de entradas o de coordenadas X Y, si dicho resultado sobrepasa el valor del vector umbral correspondiente se asocia al resultado el valor uno(1), caso contrario será el valor cero(0).. Figura 3: Red multicapa unidireccional hacia delante (feedfoward). La segunda capa consta de 8 neuronas pues se busca generar 8 salidas ya que la idea es representar el código ASCII de un carácter en código binario en un byte. La entrada de la segunda capa es un vector de 200 valores generado por la capa uno, por lo tanto es necesario asociar a esta capa una matriz de pesos de 8 por 200 valores que en primera instancia también son aleatorios al igual que un vector de umbrales de 8 valores aleatorios por cada neurona. Este vector tipo byte se lo genera de forma similar que el generado por la capa 1, cuyo proceso es realizar la sumatoria

5 de la multiplicación de cada peso sináptico por el correspondiente valor en el vector resultante de la capa 1, de la misma forma si sobrepasa el umbral, al resultado se asocia 1 si no es así se asocia con 0. El modelo de esta red neuronal se ilustra en la siguiente Figura 4. Figura 4: Modelo de red utilizado en la aplicación Para entrenar la red, se debe asociar un carácter a dicho grafico, que es el carácter que se desea aprenda la red, el cual es descompuesto en su código binario ASCCII [6], en un vector de 8 bits. Para realizar el aprendizaje se resta este vector con el vector resultante de la red, y se realiza la sumatoria de estos valores, si la suma es superior a un porcentaje de error esperado, el proceso se repite utilizando el algoritmo de propagación hacia atrás o Backpropagation [7], aplicando un factor de corrección, cuando la suma de error sea inferior al porcentaje de error esperado, significa que la red ha aprendido, y el vector resultante de la red deberá ser igual al vector de 8 bits que representa el carácter en código ASCII.

6 Para realizar la correspondencia de una letra manuscrita con una carácter se utiliza la red entrenada, y como entrada el nuevo vector de 400 coordenadas perteneciente a la letra manuscrita, con el objetivo de obtener el vector resultante de 8 salidas el cual es el ASCCII de 8 bits, posteriormente se realiza la conversión de código ASCII a carácter que será el resultado final. El resumen del proceso se presenta en la Figura 5 Figura 5: Resumen del proceso El usuario tiene la posibilidad de guardar y cargar una red neuronal anteriormente entrenada para su posterior utilización. Para introducirse y profundizar el tema de sistemas OCR, se recomienda la lectura de [8] y de la revista IEEE Transactions on Pattern Analysis and Machine Intelligence. Implementación Lenguaje de programación Java Entorno de desarrollo NetBeans Clases especificas: o Para poder guardar y recuperar la red entrenada se utilizó la librería Serializable o Para utilizar la operación de matrices se utilizó la librería jsci o Las librería awt y swin se utilizaron para la manipulación graficas que junto con la implementación de la interface MouseListener permiten dibujar la letra manuscrita

7 Conclusiones: Un número muy bajos de neuronas puede hacer que no se llegue a un error suficientemente pequeño, y muchas neuronas pueden dar lugar a sobreajuste, haciendo que la predicción sea muy especializada. No hay un modelo estándar de evaluación, para determinar el número de neuronas a utilizar, o cuantas capas ocultas debe poseer, o el tipo de red a implementar, o la vinculación de umbrales y función de activación ello depende en gran medida del analista y su conocimiento. En la retropropagación si se suministra un índice muy bajo de ajuste, la red hace menos iteraciones para aprender, pero su predicción es más ambigua, caso contrario si el ajuste es más alto la red realiza un mayor número iteraciones pero su resultado es más certero.

8 BIBLIOGRAFIA [1] Maravall, D. "Reconocimiento de Formas y Visión Artificial". RA-MA, [2] Hilera, J.R.; Martínez, V.J. "Redes Neuronales Artificiales". RA-MA, [3] Arroyo, F; Gonzálo, A; Hilera, J.R. "Using Artificial Neural Networks for Ultrasonic Signals Processing from Simple Geometric Shapes", en el libro "From Natural to Artificial Neural Computation" (J. Mira & F. Sandoval eds.), Springer-Verlag, pp , [4] Hilera, J.R.; Martínez, V.J.; Mazo, M. "ECG Signals Processing with Neural Networks", International Journal of Uncertainity, Fuzziness and Knowledge-Based Systems, Vol. 3, No. 4, pp , [5] [6] [7] Rumelhart, D.E. "Learning Representations by Back-Propagating Errors",Nature, 323, pp , [8] Pavlidis, T.; Mori, S. (eds) "Special Issue on Optical Character Recognition",Proceedings of the IEEE, Vol. 80, No. 7, July, 1992.