1. Introducción. 1.1 Motivación

Transcripción

1 1. Introducción 1.1 Motivación El Análisis de Componentes Independientes (ICA) y la Factorización No Negativa de Matrices (NMF) representan técnicas de procesamiento de información que permiten extraer características comunes dentro de un conjunto de datos. Este hecho motiva que sean múltiples las aplicaciones que se apoyan en estas técnicas para lograr los objetivos planteados, como por ejemplo puede ser el caso de la reconstrucción de imágenes ruidosas y su posterior reconocimiento o clasificación. Figura 1.1 La reconstrucción y clasificación de imágenes representa una aplicación típica de la Factorización No Negativa de Matrices y el Análisis de Componentes Independientes. El ejemplo de la figura se corresponde con un problema de reconocimiento facial en el que dada una imagen ruidosa observada, se reconstruye para mejorar su calidad y posteriormente se le asigna una categoría entre todas las disponibles. Especialmente relevante es el conocido como aprendizaje basado en partes (del inglés parts-based learning) que toma especial importancia dentro de la Factorización No Negativa de Matrices. Cuando se dispone de una colección de datos, generalmente se suele repetir una estructura común consistente en una serie de partes o factores, cada uno de los cuales puede tomar una serie de valores posibles. Un modelo de los datos basado en sus partes proporcionará una representación eficiente que permitirá en cierta medida comprender la estructura de los mismos [Ross]. Si los datos se representan a partir de vectores, estas partes se ponen de manifiesto a partir de las conocidas como bases, a partir de las cuales se podrán ir reconstruyendo los

2 vectores originales mediante los coeficientes asociados a dichas proyecciones. Teniendo en cuenta el ejemplo de la figura 1.1 donde aparecen imágenes digitales, estas partes pueden hacer referencia a los rasgos más destacados de los rostros, tales como ojos, nariz, boca, etc. Algunos autores como [Biederman], consideran que el reconocimiento de imágenes de objetos a partir de sus partes presenta una serie de ventajas: 1. Resulta muy complicado obtener un modelo completo de aquellos objetos a reconocer que sean puedan presentar diferentes configuraciones, como el cuerpo humano (o en el ejemplo anterior posibles variaciones en el rostro a clasificar). 2. Si hay que reconocer objetos que estuvieran parcialmente ocultos, su clasificación se podría realizar a partir de las partes visibles. 3. La apariencia de ciertas partes variarán en menor medida ante una modificación de la posición o del punto de vista del objeto completo que su propia visión total. 4. Es posible clasificar nuevas variedades de un cierto objeto tan sólo a partir de combinaciones de sus partes. Siguiendo el ejemplo de la figura 1.1 en el que se trata el reconocimiento facial, sería posible implementar un clasificador que permitiera detectar los rostros que contengan gafas de sol y barba habiendo sido entrenado tan sólo con caras que tuvieran una de las dos características. La principal dificultad de estas técnicas radica en discernir qué partes han de ser tenidas en cuenta, y la identificación de dichas partes en los datos de entrenamiento El reconocimiento facial y la Factorización No Negativa de Matrices Fundamentos del reconocimiento facial en el ser humano El rostro representa una de las principales características que define a una persona. En principio, aunque las caras se enmarcan dentro de una categoría visual bastante homogénea, cualquier persona es capaz de reconocer diferencias entre las partes que las componen y su distribución espacial. Los seres humanos somos capaces de reconocer rostros que nos resulten familiares con una efectividad cercana al 90%, incluso después de cincuenta años [Wallraven]. Sin embargo, este porcentaje se reduce drásticamente cuando la imagen representativa del rostro está invertida, como podremos comprobar por nosotros mismos en la figura 1.2, en la que las dos imágenes parecen tener la misma expresión. Sin embargo, si observamos la imagen sin invertir, podremos notar como la diferencia entre los rostros es bastante acusada.

3 Figura 1.2 Ilusión de Tatcher. A primera vista, no es posible observar la enorme diferencia que existe entre los gestos ya que las imágenes están invertidas. Ello se puede deber según algunos autores a que para rotaciones de un rostro previamente adquirido, el reconocimiento se realiza por partes. Como apuntan algunos autores como [Rock], es posible que cuando el ser humano observa una imagen invertida, realice un procesamiento por partes del conjunto y de ahí que la imagen de la derecha de la figura 1.2 no nos resulte tan extraña como al mirarla en su posición original. La distinción entre partes o componentes de información e componentes de configuración ha sido objeto de estudio por parte de muchos autores. Por un lado, las componentes de información hacen referencia a las partes del rostro, tales como los ojos, la nariz, la boca, etc, que se pueden diferenciar claramente como elementos distintos dentro del conjunto. Por otro lado, las componentes de configuración se refieren a las relaciones espaciales existentes entre las componentes y se emplea para diferenciar las partes del rostro (por ejemplo la distancia entre ojos o entre la nariz y la boca). Además resulta intuitivo comprobar como una alteración en las componentes de información, puede provocar variaciones en las de configuración, como por ejemplo al realizar un cambio de ojos o de nariz en una cara. Figura 1.3 Componentes de información y de configuración. En la figura (A) se representan diferentes componentes de información (diferentes ojos, bocas, etc). En cambio en la figura (B), se ponen de manifiesto las variaciones existentes en las componentes de configuración (separaciones diferentes entre ojos, nariz y boca, etc).

4 La Factorización No Negativa de Matrices y el aprendizaje por partes Como se ha venido observando hasta ahora el ser humano fundamenta su aprendizaje en las partes que constituyen el conjunto. Pues bien, la Factorización No Negativa de Matrices, de forma análoga al hombre se construye a partir de los elementos constitutivos del conjunto de datos que se desea analizar. Aplicando este hecho al caso del reconocimiento facial, podemos pensar en una aplicación consistente en la reconstrucción de rostros a partir de una serie de caras que conforman una base de datos. El planteamiento del problema se presenta en la siguiente figura. Figura 1.4 Planteamiento del problema de la reconstrucción de rostros a partir de una base de datos de caras. Dado un rostro (a la izquierda), se pretende sintetizar otro lo más parecido posible al original a partir del conjunto de caras que conforman la base de datos. En primera aproximación se podría pensar en realizar una suma ponderada de cada uno de los rostros que conforman la base hasta llegar a un resultado parecido al que hay que sintetizar. Sin embargo este procedimiento no arrojaría unos resultados del todo satisfactorios. Quizás la mejor forma de llevarlo a cabo consistiría en hacer uso del aprendizaje por partes, en el que se fundamenta la Factorización No Negativa de Matrices. Tras la aplicación del algoritmo descrito en el capítulo 4, se obtienen unas bases, a partir de las cuales se podrá realizar una reconstrucción bastante aceptable del rostro original. Figura 1.5 Bases obtenidas tras la aplicación del algoritmo NMF.

5 Como se puede observar en la figura anterior, las bases obtenidas (a partir de las cuales realizaremos la reconstrucción) representan diferentes componentes de información y configuración características del conjunto de los rostros que conformaban la base de datos original, es decir, aparecen diferentes tipos de ojos, cejas, narices, bocas, etc. La síntesis final del rostro consiste sencillamente en proyectar la cara original sobre cada una de las bases y así determinar los coeficientes de ponderación asociados a cada una de ellas (que serán mayores cuanto más se asemeje la correspondiente base al rostro original). Figura 1.6 Síntesis final del rostro a partir de las bases obtenidas tras la aplicación del algoritmo basado en la Factorización No Negativa de Matrices. 1.2 Organización del proyecto En este proyecto se estudiarán dos técnicas de procesamiento de datos, el Análisis de Componentes Independientes y la Factorización No Negativa de Matrices. Dado el enorme abanico de posibilidades que proporcionan en la práctica, se han elegido tres de las más habituales aplicaciones para las que se emplean. Para el caso del Análisis de Componentes Independientes se ha pensado en ampliar el problema clásico de la Separación Ciega de Fuentes de señales de audio, dotándolo de características más acordes a un entorno real. Este método de separación presentará como principal novedad la explotación de una serie de características de estacionaridad de la señal de voz. Por otro lado, para el caso de la Factorización No Negativa de Matrices se ha implementado un sistema de reconstrucción de imágenes ruidosas y una aplicación consistente en la clasificación de documentos atendiendo a su temática. En el caso de la primera, dado que habrá que eliminar el ruido presente en las imágenes observadas, habrá que emplear las conocidas como técnicas de Reducción del Código Disperso ( Sparse Code Shrinkage ). Para la segunda aplicación emplearemos la propiedad que presenta la Factorización No Negativa de Matrices que permite extraer una serie

6 características comunes de los datos, que en este caso serán las categorías asociadas a cada uno de los documentos que constituyen la base de datos original. El proyecto se estructura en torno a ocho capítulos divididos en dos partes. La primera de ellas consta de cuatro capítulos y en ella se presentan los fundamentos teóricos que describen tanto el Análisis de Componentes Independientes como la Factorización No Negativa de Matrices. La segunda parte está formada por tres capítulos dedicas a cada una de las aplicaciones descritas anteriormente. Por último, se incluye un último capítulo dedicado a las conclusiones y posibles vías de investigación futuras. Primera parte: Fundamentos teóricos Capítulo 1. Introducción. Se estructuran los contenidos del proyecto y se presenta los fundamentos que rigen el reconocimiento de objetos por parte del ser humano. Capítulo 2. Fundamentos básicos del Análisis de Componentes Independientes. Tras introducir el problema de la separación ciega de fuentes se procede a analizar la importancia del Análisis de Componentes Principales (PCA) como preprocesado de las señales observadas. Se establece una definición del modelo ICA y se presentan las restricciones esenciales que han de cumplir los datos para su correcta separación. Capítulo 3. Obtención de las componentes independientes en ICA. Se introducen algunas técnicas de estimación de las componentes basadas en la maximización de la no gaussianidad y la entropía negativa. Como ejemplo se presenta un algoritmo de punto fijo bastante extendido: FastICA. Se concluye el capítulo introduciendo el algoritmo AMUSE para la estima de las señales independientes a partir de su covarianza. Capítulo 4. La Factorización No Negativa de Matrices. En primer lugar se define el modelo NMF y las matrices que lo conforman, para luego pasar a establecer una comparativa con otras técnicas como ICA, PCA o la Cuantización de Vectores (VQ). Por último se presenta un algoritmo matemático iterativo que permite estimar las matrices que conforman la factorización, para lo cual se definen una función de coste y unas reglas de actualización. Segunda Parte: Aplicaciones Capítulo 5. Separación Ciega de Fuentes basada en la estructura temporal de las señales de voz. En esta primera aplicación dedicada al Análisis de Componentes Independientes se trata de implementar un sistema más robusto que el descrito en los capítulos teóricos, que permita separar señales de voz cuando la mezcla de señales en vez de ser lineal es convolutiva. Para ello se intenta aprovechar una serie de propiedades de estacionaridad que presenta la señal de voz humana que permiten un tratamiento característico que permite resolver el problema. Capítulo 6. Reconstrucción de imágenes ruidosas mediante técnicas basadas en la Factorización No Negativa de Matrices. Aplicando el algoritmo de obtención de bases descrito en el Capítulo 4 y haciendo uso de la Reducción de Código Disperso, se pretende diseñar un sistema de reconstrucción de imágenes inmersas en ruido aditivo.

7 Capítulo 7. Clasificación de documentos basada en la Factorización No Negativa de Matrices. Dado un conjunto de documentos pertenecientes a diferentes temáticas, se pretende su clasificación en categorías a partir de las temáticas extraídas tras la obtención de las bases NMF. Capítulo 8. Conclusiones y líneas futuras de investigación.