UNIVERSIDAD DE EXTREMADURA

Transcripción

1 UNIVERSIDAD DE EXTREMADURA Escuela Politécnica Ingeniería Informática Proyecto Final de Carrera Aplicación de la Tecnología Grid al Tratamiento de Imágenes Hiperespectrales Fermín Ayuso Márquez Víctor Manuel Ochoa Sánchez Julio, 2008

2

3 UNIVERSIDAD DE EXTREMADURA Escuela Politécnica Ingeniería Informática Proyecto Final de Carrera Aplicación de la Tecnología Grid al Tratamiento de Imágenes Hiperespectrales Autores: Fermín Ayuso Márquez Víctor Manuel Ochoa Sánchez Fdo.: Director: Antonio Plaza Miguel Fdo.: Tribunal Calificador Presidente: <Nombre y Apellidos> Fdo: Secretario: : <Nombre y Apellidos> Fdo.: Vocal: : <Nombre y Apellidos> Fdo.: CALIFICACIÓN: FECHA:

4

5 Índice de contenido Motivaciones y objetivos...8 Motivaciones...8 Objetivos...10 Antecedentes...13 Concepto de imagen hiperespectral...13 Sensores hiperespectrales...18 Algunos ejemplos de sensores hiperespectrales...23 Sensor AVIRIS...23 Técnicas de particionamiento de datos para imágenes hiperespectrales...24 Procesamiento de la imagen hiperespectral...30 Algoritmo paralelo para el reparto de carga...31 Algoritmo de reparto de carga entre procesadores heterogéneos...32 Resultados experimentales...34 Arquitectura empleada...34 Análisis del rendimiento...35 Descripción de la imagen utilizada en las pruebas...35 Análisis del rendimiento en un cluster heterogéneo...38 Conclusiones y lineas de trabajo futuro...89 Manual de Usuario...91 Requisitos...91 Requisitos Hardware...91 Requisitos Software...91 Instalación...92 Librerías...92 Instalación de binarios...93 Ejecución...93 Versión secuencial...93 Versión paralela...94 Mensajes de error...94 Manual del Programador...96 Entorno de desarrollo...96 Estructuras de datos...96 Unsigned char *...96 BsqHeader...97 sequential.c...97 parallel.c Referencias bibliográficas Artículos y Obras Webs Relacionadas Apéndice Índice de ilustraciones Ilustración 1: Concepto de imagen hiperespectral...14 Ilustración 2: Adquisición de una imagen hiperespectral por el sensor AVIRIS...16 Ilustración 3: Tipos de píxels en imágenes hiperespectrales...17 Ilustración 4: Tipos de sensores: (a) Sensor matricial. (b) sensor lineal o de empuje. (c) sensor de barrido...21 Ilustración 5: Esquema del sensor hiperespectral AVIRIS...24 Ilustración 6: Diagrama representativo del procedimiento para obtener espectros puros...27 Ilustración 7: Representación de la dilatación y erosión morfológica usada por el algoritmo AMEE...28 Ilustración 8: Partición dominio espectral y espacial...29 Ilustración 9: Imagen del sensor AVIRIS sobre la Jasper Ridge Biological Preserve (JRBP)

6 de California...37 Ilustración 10: Firma espectral seleccionada de la imagen AVJRBP_RAD...38 Ilustración 11: Banda 224 de la imagen original Ilustración 12: Banda 224 de la imagen procesada con una ventana 3x Ilustración 13: Banda 224 de la imagen procesada con una ventana Índice de tablas Tabla 1: Características de la arquitectura heterogénea del Instituto de Astrofísica de Andalucía...35 Tabla 2: Tiempos de ejecución en serie para cada nodo de la arquitectura heterogénea...38 Tabla 3: Resultados para una estimación de 2 líneas y 2 procesadores...40 Tabla 4: Resultados para una estimación de 2 líneas y 4 procesadores...40 Tabla 5: Resultados para una estimación de 2 líneas y 8 procesadores...41 Tabla 6: Resultados para una estimación de 2 líneas y 16 procesadores...42 Tabla 7: Resultados para una estimación de 2 líneas y 26 procesadores...43 Tabla 8: Resultados para una estimación de 5 líneas y 2 procesadores...45 Tabla 9: Resultados para una estimación de 5 líneas y 4 procesadores...46 Tabla 10: Resultados para una estimación de 5 líneas y 8 procesadores...46 Tabla 11: Resultados para una estimación de 5 líneas y 16 procesadores...47 Tabla 12: Resultados para una estimación de 5 líneas y 26 procesadores...49 Tabla 13: Resultados para una estimación de 10 líneas y 2 procesadores...51 Tabla 14: Resultados para una estimación de 10 líneas y 4 procesadores...51 Tabla 15: Resultados para una estimación de 10 líneas y 8 procesadores...52 Tabla 16: Resultados para una estimación de 10 líneas y 16 procesadores...53 Tabla 17: Resultados para una estimación de 10 líneas y 26 procesadores...54 Tabla 18: Resultados para una estimación de 20 líneas y 2 procesadores...56 Tabla 19: Resultados para una estimación de 20 líneas y 4 procesadores...56 Tabla 20: Resultados para una estimación de 20 líneas y 8 procesadores...57 Tabla 21: Resultados para una estimación de 20 líneas y 16 procesadores...58 Tabla 22: Resultados para una estimación de 20 líneas y 26 procesadores...59 Tabla 23: Resultados para una estimación de 30 líneas y 2 procesadores...62 Tabla 24: Resultados para una estimación de 30 líneas y 4 procesadores...62 Tabla 25: Resultados para una estimación de 30 líneas y 8 procesadores...63 Tabla 26: Resultados para una estimación de 30 líneas y 16 procesadores...64 Tabla 27: Resultados para una estimación de 30 líneas y 26 procesadores...66 Tabla 28: Resultados para una estimación de 60 líneas y 2 procesadores...67 Tabla 29: Resultados para una estimación de 60 líneas y 4 procesadores...67 Tabla 30: Resultados para una estimación de 60 líneas y 8 procesadores...68 Tabla 31: Resultados para una estimación de 60 líneas y 16 procesadores...69 Tabla 32: Resultados para una estimación de 60 líneas y 26 procesadores...71 Tabla 33: Resultados para una estimación de 120 líneas y 2 procesadores...72 Tabla 34: Resultados para una estimación de 120 líneas y 4 procesadores...72 Tabla 35: Resultados para una estimación de 120 líneas y 8 procesadores...73 Tabla 36: Resultados para una estimación de 120 líneas y 16 procesadores...74 Tabla 37: Resultados para una estimación de 120 líneas y 26 procesadores...76 Tabla 38: Resultados para una estimación de 240 líneas y 2 procesadores...77 Tabla 39: Resultados para una estimación de 240 líneas y 4 procesadores...78 Tabla 40: Resultados para una estimación de 240 líneas y 8 procesadores...79 Tabla 41: Resultados para una estimación de 240 líneas y 16 procesadores...80 Tabla 42: Resultados para una estimación de 240 líneas y 26 procesadores...81 Tabla 43: Requisitos hardware...91 Tabla 44: Requisitos software...92

7 Fermín Ayuso y Víctor Manuel Ochoa Motivaciones y objetivos Motivaciones La realización de este Proyecto Fin de Carrera se encuentra enmarcado en las líneas de investigación actuales del Grupo de Redes Neuronales y Procesamiento de Señales (GRNPS) del Departamento de Tecnología de los Computadores y de las Comunicaciones de la Universidad de Extremadura. El GRNPS empezó su trabajo de investigación desarrollando algoritmos de computación neuronal para la posible cuantificación de espectros. Continuando con esta línea, sus investigaciones se han extendido al análisis de imágenes hiperespectrales de la superficie terrestre, obtenidas de forma remota, a partir de sensores de tipo satélite o aerotransportados. Uno de los problemas que se encuentran asociados a los sistemas automáticos de detección de objetivos es la elevada dimensión de las imágenes a procesar. Generalmente el tiempo de respuesta para estas aplicaciones ha de ser casi real y los resultados deben obtenerse en un corto periodo de tiempo, para, por ejemplo, en casos excepcionales, actuar con la mayor rapidez. Otro de los problemas, asociado a este anterior, es que, además, la elevada complejidad computacional de su tratamiento limita su explotación en situaciones en las que los requerimientos espaciales y temporales son altos. Existen muchos métodos para realizar el proceso de análisis de imágenes multiespectrales e hiperespectrales, muchos de ellos ya implementados en paralelo, para funcionar en arquitecturas de tipo Cluster, en las que todos lo nodos (ordenadores) conectados tienen características idénticas. Con la intención de crear sistemas informáticos paralelos efectivos específicos para las ciencias de la tierra y el espacio, el Center of Excellence in Space and Data Information Sciencies (CESDIS), locacalizado en el Goddard Space Flight Center en Maryland, desarrolló el concepto de cluster Beowulf. El poder de procesamiento ofrecido por dichos sistemas se ha empleado tradicionalmente en aplicaciones de 7

8 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales minería. Aunque la mayoría de las técnicas paralelas y sistemas para el procesamiento de información de imágenes y minería empleados por la NASA y otras instituciones durante la última década han sido principalmente homogéneos, aparece un tendencia actual en el diseño de sistemas para el análisis e interpretación de volúmenes masivos de datos, como consecuencia de la ciencia de la tierra y de misiones de exploración planetarias, depende de la utilización plataformas informáticas altamente heterogéneas. Por ello, este PFC intenta, con un algoritmo genérico, innovar en el área de la computación en sistemas heterogéneos, introduciendo técnicas para el correcto reparto de carga entre nodos de distintas características, haciendo, de esta forma, posible el análisis de imágenes hiperespectrales aprovechando las ventajas que aportan las arquitecturas de tipo heterogéneo. Para ello, el lenguaje de programación utilizado ha sido C, y para paralelizar, el código MPI. La realización de las pruebas y la comprobación del correcto funcionamiento del código desarrollado ha sido posible gracias al Instituto de Astrofísica de Andalucía (IAA) de Granada, donde se encuentra una arquitectura de tipo GRID y a la cual nos han dado acceso para realizar dichas pruebas. En el apartado Arquitectura empleada describiremos las características de dicha arquitectura. Además, se ha utilizado para la obtención de resultados la imagen AVJRPB_RAD descrita en una de las siguientes secciones (Descripción de la imagen). Objetivos El principal objetivo de este PFC es desarrollar un algoritmo que permita la correcta distribución de carga (cantidad de procesamiento) entre los distintos nodos de una red de ordenadores con arquitectura en GRID que permita que los algoritmos existentes para procesar imágenes hiperespectrales puedan ejecutarse en este tipo de arquitecturas Para poder alcanzar este objetivo, marcado anteriormente como principal, se han planteado y perseguido objetivos más específicos que se detallan a continuación: 1. Proceso de revisión de la bibliografía existente y exhaustivo estudio de las características principales de las imágenes hiperespectrales, así como de 8

9 Fermín Ayuso y Víctor Manuel Ochoa algunos algoritmos de procesamiento de dichas imágenes. 2. Implementación de un algoritmo genérico para el procesamiento de imágenes mediante un método de ventanas en su versión secuencial usando el lenguaje de programación C. 3. Desarrollo de dicho algoritmo en su versión paralela, haciendo uso de la librería MPI (Message Passing Interface) para facilitar el paso de mensajes entre los distintos nodos que existan en la arquitectura y comprobación de su correcto funcionamiento en una arquitectura de tipo Cluster, con los nodos homogéneos. 4. Comprobar la viabilidad de aplicar la metodología diseñada en aplicaciones reales, utilizando para ello imágenes obtenidas por una variedad de sensores hiperespectrales. 5. Implementación y desarrollo de código para estimar el correcto reparto de carga entre nodos heterogéneos. Para realizar esta tarea, las pruebas se han desarrollado en el cluster heterogéneo del IAA. 6. Realización de múltiples pruebas para comprobar distintos tamaños para la función de estimación de carga. 7. Desarrollo de un estudio detallado de los resultados obtenidos en las diferentes ejecuciones del código implementado. Este estudio exhaustivo supone una contribución novedosa con respecto a la literatura existente en el área de estudio considerada. Para una mayor comprensión de esta memoria, procedemos a describir los puntos que se tratarán, estructurando esta en una serie de secciones que se describen a continuación: 1) Antecedentes. En este capítulo introductorio se describen los conceptos fundamentales relacionados con análisis hiperespectral y procesamiento de datos. 2) Técnica de particionamiento de datos en imágenes hiperespectrales. En este capítulo se describe la técnica llevada a cabo para particionar la imagen hiperespectral en fragmentos que serán asignados a cada procesador. 9

10 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales 3) Algoritmo paralelo para reparto de carga. En este capítulo vamos a describir los pasos dados que se han realizado para estimar el reparto de carga entre diferentes procesadores. 4) Resultados experimentales. En este apartado presentamos la arquitectura y la descripción de la imagen utilizada para el estudio y exponemos los resultados obtenidos. 5) Manuales de usuario y programador: Se incluyen manuales tanto para los usuarios técnicos como para los usuarios finales de la aplicación desarrollada. 6) Conclusiones y lineas de trabajo futuro. Este capítulo resume las principales aportaciones realizadas por la presente memoria y muestra las conclusiones derivadas. A parte, sugiere un conjunto de lineas de trabajo que pueden ser abordadas en futuros trabajos. 7) Apéndice. En el apéndice se detallan la implementación del algoritmo de reparto de carga entre procesadores heterogéneos desarrollado en este PFC. La implementación ha sido desarrollada en el lenguaje de programación C incorporando las llamadas al interfaz estándar de paso de mensajes Message Passing Interface (MPI). 10

11 Fermín Ayuso y Víctor Manuel Ochoa Antecedentes En el presente capítulo trataremos de situar al lector en el marco en el que se desarrolla nuestro proyecto, explicando y resumiendo los principales términos que se usarán en el resto del documento. En primer lugar, describimos el concepto de imagen hiperespectral, detallando las particularidades y características propias de este tipo de imágenes. A continuación, describimos las principales características de la imagen utilizada en las pruebas realizadas. Por último discutiremos sobre las características del entorno donde realizamos las pruebas (Grid y Cluster) y haremos una descripción del entorno concreto donde hemos realizado las pruebas (IAA de Granada). Concepto de imagen hiperespectral Una imagen hiperespectral es una imagen en la que cada punto no viene descrito por un sólo valor de intensidad (como en una imagen "en blanco y negro") o por tres componentes de color (como en una imagen RGB de la pantalla del ordenador), sino por un vector de valores espectrales que se corresponden con la contribución de la luz detectada en ese punto a estrechas bandas del espectro, típicamente de entre 1 y 5 nm de ancho (el espectro visible abarca unos 300 nm), un número de bandas de entre las decenas hasta los varios centenares, en muchas ocasiones no limitado estrictamente al visible sino también en el infrarrojo y el ultravioleta (no son raros los sensores que cubren desde los 300 nm hasta los 2500 nm). Por eso se emplean el término "imagin spectroscopy" para referirse a los sensores de imagen hiperespectrales, porque en cierto modo es como si estuviéramos midiendo simultáneamente con multitud de espectrómetros (que sólo miden la luz incidente en un punto) toda una rejilla de puntos en una gran zona geográfica. El concepto de imagen hiperespectral se ha relacionado históricamente con uno de los primeros instrumentos de la NASA para la exploración de la tierra, el sistema Jet Propulsion Laboratory's Airbone Visible-Infrared Imaging Spectrometer (AVIRIS). El asentamiento de la tecnología hiperespectral en aplicaciones de observación remota de la tierra ha dado como resultado el desarrollo de instrumentos de medida de muy elevada resolución en los dominios espacial y espectral. Los sensores 11

12 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales hiperespectrales adquieren imágenes digitales en una gran cantidad de canales espectrales muy cercanos entre sí, obteniendo, para cada porción de la escena o píxel, una firma espectral característica de cada material. El resultado de la toma de datos por parte de un sensor hiperespectral sobre una Ba nd 1 as -4 ND en banda 4 Muestras ND en banda 3 ND en banda 2 ND en banda 1 Pixel en posición (x,y) Líneas Ilustración 1: Concepto de imagen hiperespectral. determinada escena puede ser representado en forma de cubo de datos, con dos dimensiones para representar la ubicación espacial de un píxel, y una tercera dimensión que representa la singularidad espectral de cada píxel en diferentes longitudes de onda. La ilustración 1 muestra la estructura de una imagen hiperespectral donde el eje X es el indicador de las líneas, el eje Y es el indicador de las muestras y el eje Z es el número de bandas, es decir, la longitud de onda de esa banda (canal). 12

13 Fermín Ayuso y Víctor Manuel Ochoa Como puede apreciarse en la ilustración 1, el resultado de la toma de datos por parte de un sensor hiperespectral sobre una determinada escena puede ser representado en forma de cubo de datos, con dos dimensiones para representar la ubicación espacial de un píxel, y una tercera dimensión que representa la singularidad espectral de cada píxel en diferentes longitudes de onda. En concreto, la capacidad de observación de los sensores denominados hiperespectrales permite la obtención de una firma espectral detallada para cada píxel de la imagen, dada por los valores de reflectancia Ilustración 2: Adquisición de una imagen hiperespectral por el sensor AVIRIS adquiridos por el sensor en diferentes longitudes de onda, lo cual permite una caracterización muy precisa de la superficie de nuestro planeta. Como ejemplo ilustrativo, la ilustración 2 muestra el procedimiento de análisis hiperespectral mediante un sencillo diagrama, en el que se ha considerado como ejemplo el sensor AVIRIS, el cual cubre el rango de longitudes de onda entre 0.4 y 2.5 µm utilizando 13

14 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales 224 canales y resolución espectral de aproximadamente 10 nm. Como puede apreciarse en la ilustración 2, la capacidad de observación de este sensor permite la obtención de una firma espectral detallada para cada píxel de la imagen, dada por los valores de reflectancia adquiridos por el sensor en diferentes longitudes de onda, lo cual permite una caracterización muy precisa de la superficie de nuestro planeta. Conviene destacar que, en este tipo de imágenes, es habitual la existencia de mezclas a nivel de subpíxel, por lo que a grandes rasgos podemos encontrar dos tipos de píxeles en estas imágenes: píxel puros y píxel mezcla. Se puede definir un píxel mezcla como aquel en el que cohabitan diferentes materiales. Este tipo de píxel son los que constituyen la mayor parte de la imagen hiperespectral, en parte, debido a que este fenómeno es independiente de la escala considerada ya que tiene lugar incluso a niveles microscópicos. La ilustración 3 muestra un ejemplo del proceso de adquisición de píxeles puros (a nivel macroscópico) y mezcla en imágenes hiperespectrales. Ilustración 3: Tipos de píxels en imágenes hiperespectrales El desarrollo tecnológico introducido por la incorporación de sensores hiperespectrales en plataformas de observación remota de la tierra de última generación ha sido particularmente notable durante los últimos años. En este sentido, conviene destacar que dos de las principales plataformas de tipo satélite que se 14

15 Fermín Ayuso y Víctor Manuel Ochoa encuentran en funcionamiento en la actualidad: Earth Observing-1 de NASA ( y ENVISAT de la Agencia Espacial Europea ( llevan incorporados sensores de este tipo, permitiendo así la posibilidad de obtener imágenes hiperespectrales de la práctica totalidad del planeta de manera casi continua. A pesar de la gran evolución en los instrumentos de observación remota de la tierra, la evolución en las técnicas de análisis de los datos proporcionados por dichos sensores no ha sido tan notoria. En particular, la obtención de técnicas de análisis hiperespectral avanzadas, capaces de aprovechar totalmente la gran cantidad de información espacial y espectral presente en imágenes hiperespectrales, constituye un objetivo de gran interés para la comunidad científica. A continuación, describimos en detalle las características de los sensores hiperespectrales utilizados en el presente estudio. Sensores hiperespectrales En este apartado trataremos de describir algunos aspectos de los sensores hiperespectrales más actuales, por ejemplo, el tipo de sensor dependiendo de la adquisición de datos, la relación señal/ruido y la resolución del sensor. Además, estudiaremos de forma detallada los sensores hiperespectrales a partir de los cuales se han obtenido las imágenes utilizadas en el PFC. Un sensor hiperespectral es un dispositivo capaz de medir la radiación en gran cantidad de bandas muy estrechas, de forma que hace mucho más difícil que distintas combinaciones espectrales se confundan, aunque estas sean muy parecidas. Los sensores hiperespectrales son capaces de distinguir objetos, sustancias y materiales, que otro tipo de sensores, como los multiespectrales, no son capaces de reconocer. La capacidad de observación de los sensores hiperespectrales permite la obtención de una firma espectral detallada para cada píxel de la imagen, dada por los valores de reflectancia adquiridos por el sensor en diferentes longitudes de onda. Este hecho permite una caracterización muy precisa de la superficie del planeta. 15

16 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales Con respecto a los tipos de sensores, existen dos grandes tipos: Sensores activos: poseen fuentes internas que generan artificialmente la radiación (radares). Sensores pasivos, que detectan la radiación electromagnética emitida o reflejada de fuentes naturales. Para nuestro estudio nos vamos a centrar en estos últimos, los sensores pasivos. Existe un amplia gama de ellos: sistemas fotográficos, radiómetros hiperespectrales y multiespectrales, espectrómetros de imagen. Un radiómetro, es un sistema ópticoelectrónico, que descompone la radiación recibida en varias longitudes de onda (bandas). Cada una de estas bandas se envía a un conjunto de detectores sensibles a esa región del espectro que la amplifican y la convierten en señal eléctrica y, por un proceso de conversión analógico-digital, en un valor numérico conocido como nivel digital (ND). Muchos sensores pasivos tienen lo que se conoce como sensibilidad hiperespectral, lo cual significa que recogen simultáneamente datos de entre decenas y centenas de bandas espectrales. Las mediciones sobre diferentes zonas del espectro electromagnético, aportan una amplia información a cerca de distintos aspectos del medio ambiente. Por ejemplo, la radiación ultravioleta se utiliza para monitorizar los niveles de ozono en las capas altas de la atmósfera. Las bandas visible e infrarrojas permiten determinar la salud de la cubierta vegetal (cultivos, bosques). Los captadores sensibles a la radiación infrarroja térmica sirven para determinar la temperatura del suelo, de las nubes, y de la superficie de los mares. Según el procedimiento utilizado por los sensores para recibir la radiación de los objetos, se pueden distinguir distintos tipos básicos de sensores: a) Sensores matriciales ( frame cameras ): estos sensores electrónicos utilizan sensores de estado sólido tipo CCD o CMOS. Todos los elementos sensoriales están dispuestos en el plano focal y presentan la particularidad de que adquieren la imagen digital en un solo instante. La geometría de dichas imágenes corresponde al caso de la proyección central. Además, suelen aceptar la corrección del movimiento hacia delante (FMC) vía TDI ( Time Delayed Integration ). Las resoluciones medias de 3K x 2K y 4K x 4K son las más extendidas y están disponibles 16

17 Fermín Ayuso y Víctor Manuel Ochoa en modo pancromático, color o falso color. Para obtener resoluciones equiparables con su homólogo analógico, se adoptan diseños modulares (de no menos de 2 x 2 sensores). b) Sensores lineales o de empuje ( pushbroom scanners ): la captura de la imagen es un proceso continuo y totalmente electrónico, que se realiza mediante una serie de sensores lineales de estado sólido alineados entre ellos en posición perpendicular al avance del sensor. La geometría de la imagen es cilindro-cónica, también conocida con el nombre de perspectiva lineal, y se caracteriza porque cada línea de la imagen resultante precisa sus propios parámetros de orientación externa (POE), ajustándose a una proyección central. La sensibilidad espectral de estos sensores oscila entre 0.4 µm y 1 µm, por tanto abarcan el espectro electromagnético visible e infrarrojo cercano. c) Sensores de barrido o de rotación ( whiskbroom scanners ): los sensores de rotación son de tipo electromecánico. La imagen se obtiene gracias a la rotación de un prisma o espejo que mueve instantáneamente el punto de vista (IFOV - Instantaneous Field of View -) perpendicularmente a la dirección del sensor. De este modo, la formación de la imagen sigue un proceso continuo. La geometría resultante es cilíndrica, con las particularidades que ello implica. Por lo general, la sensibilidad espectral de estos sensores es mayor que los de empuje, ya que oscila entre 0.4 µm (visible) y 13 µm (infrarrojo lejano). Ilustración 4: Tipos de sensores: (a) Sensor matricial. (b) sensor lineal o de empuje. (c) sensor de barrido 2) La relación señal-ruido (signal-to-noise ratio -SNR-), es un parámetro 17

18 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales fundamental para definir la calidad de un sensor hiperespectral. Se puede definir como la cantidad de señal adquirida por unidad de ruido, es decir, la relación entre la amplitud de la señal obtenida y la amplitud del ruido. Esta relación depende de la anchura espectral, de la cantidad de radiación reflejada por el medio y de la sensibilidad del sensor. Dicha relación aumenta a medida que estos parámetros también lo hacen. 3) La resolución de un sensor es la capacidad para obtener información acerca de los detalles de la imagen. Dependiendo del tipo de información que nos aporten, podemos hablar de resolución espacial, espectral o radiométrica. La resolución espacial proporciona el tamaño del menor objeto discriminable por el sensor. En este caso, define el tamaño y la forma de cada uno de los píxels. Se mide por el Instantaneous Field Of View (IFOV), que es la sección angular medida en radianes, observada en un instante determinado por el sensor. Se suele utilizar la distancia sobre el terreno que corresponde a ese ángulo y depende del ángulo de visión. Es diferente del pixel (Picture element): espaciado provocado por la frecuencia de muestreo. La mejor cobertura del terreno ocurre cuando ambas medidas coinciden. Influye en la información (valor digital) que ofrece el pixel. La resolución espectral es el número y el ancho de las bandas espectrales que puede discriminar el sensores. También se puede definir como la capacidad del sensor para discriminar la radiancia detectada en distintas longitudes de onda del espectro. Viene determinada por el número de bandas que el sensor puede captar y por la anchura espectral de éstas. Es conveniente un número alto de bandas y bandas estrechas, ya que permite una discriminación más fina. En un sensor determinado, el número de bandas que posee y su anchura, dependen de la aplicación que se le haya querido dar al mismo. La resolución radiométrica es la sensibilidad del sensor, es decir, la capacidad para detectar variaciones en la radiancia espectral que recibe. 18

19 Fermín Ayuso y Víctor Manuel Ochoa Determina el número de niveles de gris recogidos en la imagen, se expresa en niveles por pixel ( ). A mayor resolución radiométrica, mejor interpretación de la imagen. El pixel mixto es definido por una señal intermedia a las cubiertas que lo componen (Chuvieco, 1996). En dispositivos opto-electrónicos1 la radiancia incidente se registra matricialmente de forma digital. Cada pixel tiene asignado un número digital proporcional a la radiancia recibida. El almacenamiento digital es más inmune al ruido en la transmisión de información. La resolución radiométrica de un sensor viene dada por el número de niveles digitales que es capaz de codificar. Una mejor resolución radiométrica conduce a una mejor interpretación pero depende del método de interpretación. Resolución temporal: frecuencia de cobertura que proporciona el sensor. La cadencia temporal de los sistemas espaciales varía de acuerdo a los objetivos fijados. Los diferentes tipos de resolución están muy relacionados. El mayor problema deriva de la transmisión de las imágenes a la superficie terrestre. Cada sistema ofrece unas características diferentes, según para los fines que se diseña. Un solo sistema no puede cubrir todas las expectativas. Por ejemplo, una alta resolución radiométrica implica un alto volumen de almacenamiento, lo que obliga a bajar la resolución espectral o para estudios de vegetación convienen resoluciones espaciales y espectrales altas. Algunos ejemplos de sensores hiperespectrales En el siguiente apartado describimos con más detalle el sensor hiperespectral del que se han escogido imágenes para realizar este trabajo. Sensor AVIRIS AVIRIS (Airborne Visible/InfraRed Imaging Spectrometer) es un sensor hiperespectral aerotransportado con capacidades analíticas en las zonas visible e infrarroja del espectro que lleva en funcionamiento desde Fue el primer 1. Dispositivos que están relacionados con la luz. 19

20 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales sistema de adquisición de imágenes capaz de obtener información en una gran cantidad de bandas espectrales estrechas y casi contiguas. En 1989, se convirtió en un instrumento aerotransportado y desde ese momento, se están realizando varias campañas de vuelo cada año para la toma de nuevos datos. Algunas de las características más relevantes del sensor AVIRIS son las siguientes: Permite obtener información en 224 canales espectrales contiguos, con longitudes de onda entre 0.4 y 2.5 µm y con un ancho entre bandas de aproximadamente 0.01 metros. Resolución espectral de 10 nm, resolución espacial de entre 5 y 20 metros y un campo de visión de unos 30º aproximadamente. El sensor utiliza un explorador de barrido que permite obtener un total de 614 píxels por cada oscilación. La cobertura de la parte visible del espectro es realizada por un espectrómetro EFOS- A, compuesto por un array de 32 detectores lineales. La cobertura en el infrarrojo es realizada por los espectrómetros EFOS-B, EFOS-C y EFOS-D, compuestos todos ellos por arrays de 64 detectores lineales. Ilustración 5: Esquema del sensor hiperespectral AVIRIS Técnicas de particionamiento imágenes hiperespectrales de datos para Las técnicas que gobiernan el análisis de datos hiperespectrales tratan de 20

21 Fermín Ayuso y Víctor Manuel Ochoa medir la respuesta de cada firma espectral para múltiples materiales subyacentes para cada sitio. Por ejemplo, el vector del píxel etiquetado como vegetation + soil de la ilustración 3 es un píxel mixto que comprende una mezcla de vegetación y tierra o de diferentes tipos de cubiertas de tierra y vegetación. Esta situación, a menudo denominada como problema mixto en terminología de análisis hiperespectrales, es una de las más cruciales y con propiedades de distinguir análisis de imágenes hiperespectrales. Los píxeles mixtos existen por varias razones. Primero, si la resolución espacial del sensor no es suficientemente alta para separar diferentes materiales, este puede ocupar conjuntamente un píxel sencillo, y la medida espectral resultante será un compuesto de los espectros individuales. Segundo, los píxeles mixtos pueden ser consecuencia también de la combinación de dos materiales distintos en una mezcla heterogénea. Esta circunstancia ocurre independientemente de la resolución espacial del sensor. Una imagen hiperespectral a menudo es una combinación de las dos situaciones anteriormente descritas, donde unos pocos emplazamientos en una imagen son materiales puros, pero algunos otros son mezclas de materiales. Para tratar con el problema mixto en una imagen hiperespectral, se ha propuesto un procedimiento de análisis consolidado en el cual el espectro medido de un píxel mixto es descompuesto en una recopilación de cada endmember presente en el píxel mixto. La ilustración 6 muestra el procedimiento para obtener un espectro puro, en la cual, en primer lugar la imagen hiperespectral de entrada es reducida (este paso es opcional) y luego se extraen los endmembers puros de la imagen. El último paso es la descomposición de los píxeles mixtos en mapas fraccionados a través de un proceso de inversión lineal. Durante la última década, se han propuesto algunos algoritmos con el propósito de extraer de forma automática los endmembers espectrales desde datos de imágenes hiperespectrales. La extracción automática y morfológica de endmembers (automated morphological endmember extraction - AMEE) resulta ser la única técnica disponible que integra la información espacial y espectral en la investigación de endmembers hiperespectrales. El método se basa en la utilización de un núcleo o elemento estructural, que se 21

22 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales desplaza a través de todos los píxeles de la imagen, definiendo un área de búsqueda espacial alrededor de cada vector del píxel. Ilustración 6: Diagrama representativo del procedimiento para obtener espectros puros El valor del espectro más puro y el valor del espectro con más mezcla se obtienen respectivamente de la vecindad de cada píxel, mediante el cálculo del ángulo espectral entre el más puro y el que contiene más mezcla. La ilustración 7 muestra un ejemplo de la ejecución de las dos operaciones morfológicas para la selección de píxeles mixtos/puros. Como muestra dicha figura, la dilatación morfológica expande las áreas más puras en la escena, al seleccionar los píxeles de mayor pureza (representados como píxeles blancos y oscuros) en los elementos estructurales vecinos. Casi de forma opuesta, el desgaste o erosión morfológica expande las áreas de más alta pureza de la imagen hiperespectral, seleccionando los píxeles con mayor grado de mezcla (representados como grises) en la misma vecindad. Estas operaciones se repiten para todos los píxeles de la escena, hasta que se genera un MEI (Morphological Eccentricity Index) para cada vector de píxeles. Los píxeles con mayores valores MEI se asumen que son los endmembers finales. 22

23 Fermín Ayuso y Víctor Manuel Ochoa Ilustración 7: Representación de la dilatación y erosión morfológica usada por el algoritmo AMEE Debe resaltarse que tanto la identificación de endmembers en las imágenes como el subsiguiente proceso de pureza son problemas computacionalmente demandados. Sin embargo, se han realizado pocos esfuerzos en la investigación de diseños de implementaciones paralelas. En particular, algunas técnicas están sujetas a restricciones no reveladas debido principalmente a su uso en el campo militar y en aplicaciones de defensa. No obstante, con la reciente explosión de la cantidad y dimensionalidad de las imágenes hiperespectrales, se espera que el procesamiento paralelo se convierta en un requerimiento para cada aplicación de sensores remotos. Es importante recalcar que las técnicas de análisis espectrales se centran sobre el análisis de datos basados en las propiedades de las firmas espectrales, es decir, utilizan la información dada por cada píxel vector como un todo. Esta consideración tiene un impacto significativo sobre el diseño de las estrategias de partición de datos para la paralelización. En particular, se ha mostrado en la literatura que el ámbito de las técnicas de descomposición aporta flexibilidad y escalabilidad en el procesamiento paralelo de imágenes. En una imagen hiperespectral, se pueden hacer dos tipos de particiones: partición del dominio espectral y partición del dominio espacial. La primera subdivide el volumen en sub-volúmenes hechos de bandas espectrales continuas y asigna uno o más sub-volúmenes a cada procesador (ver ilustración 8a). Con este modelo, cada píxel vector es dividido entre varios procesadores incrementando así el coste de comunicación asociado a la computación 23

24 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales basada en firmas espectrales. Con el fin de aprovechar lo máximo posible el paralelismo, adoptamos la partición del dominio espacial (ver ilustración 8b), en a que el dato es partido en bloques que retienen la información espectral completa. Existen varias razones que justifican esta elección de incorporar dicha técnica de partición en la aplicación: Ilustración 8: Partición dominio espectral y espacial 1. En primer lugar, la partición por el dominio espacial es una aproximación natural para el procesamiento de imágenes de bajo nivel aunque muchas operaciones de procesamiento de imagen requieren que se aplique la misma función a pequeños grupos de elementos alrededor de cada píxel vector completo en el volumen de la imagen. 2. En segundo lugar, en la partición por el dominio espectral, los cálculos realizados para cada píxel vector necesitan originarse desde algunos procesadores y por tanto requieren comunicación entre procesadores muy masiva. Esto generalmente se percibe como un defecto para los diseños paralelos, ya que el tiempo de comunicación entre procesadores incrementaría de forma lineal con el incremento del número de procesadores, complicando así el diseño de algoritmos paralelos (particularmente en entornos heterogéneos). 3. Por último, la reutilización del código. Para disminuir la redundancia del código e incrementar la portabilidad, es deseable reutilizar muchas partes del código para los algoritmos secuenciales en el diseño de su correspondiente 24

25 Fermín Ayuso y Víctor Manuel Ochoa versión paralela y una aproximación del dominio espacial aumenta de forma importante esta posible reutilización. En la siguiente sección, mostraremos como el algoritmo paralelo desarrollado en este trabajo esta diseñado bajo la suposición de que cada píxel vector es únicamente representado por su firma espectral. Por lo tanto, la introducción de la descomposición basada en una aproximación en el dominio espectral requeriría estrategias para combinar los resultados parciales de algunos elementos procesados. Es por ello por lo que se ha escogido una partición del dominio espacial, para mantener la información espectral completa de cada píxel. Procesamiento de la imagen hiperespectral Antes de explicar la forma en que se procesa la imagen hiperespectral en nuestro caso, desarrollaremos algunos conceptos para familiarizar al lector con el procesamiento de imágenes. La ventana de procesamiento es el grupo de píxeles contiguos al punto en estudio y que forman una matriz de nxn. Esta matriz, conocida como ventana, se tomará como referencia a la hora de generar el nuevo valor del punto. La técnica de ventana de procesamiento se aplica en el tratamiento de imágenes de muchas formas diferentes, por ejemplo a la hora de aplicar filtros. En nuestro caso se ha optado por aplanar la imagen, calculando la media de la ventana y guardando el resultado en el píxel en estudio. Como se ha visto en anteriores secciones, una imagen hiperespectral está formada por una serie de bandas que forman cada una de las capas de la imagen. Observando la imagen desde el punto de vista de los píxeles, tendremos una serie de vectores que representan cada uno de los puntos de la imagen. En el procesamiento de imágenes hiperespectrales se trata cada píxel como si de un vector se tratase. De esta forma, nuestro algoritmo de procesado toma para cada píxel de la imagen los nxn vectores adyacentes al píxel en estudio. El algoritmo recorre todos los puntos de la imagen y para cada vector calcula la media. Uno de los puntos interesantes de este trabajo es que el nodo master es el único que necesita tener físicamente los ficheros de la imagen (archivos.bsq y.hdr). El master 25

26 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales lee la información necesaria y se la comunica al resto de nodos. De esta forma, se establece un paso previo para la implementación en una arquitectura GRID. Algoritmo paralelo para el reparto de carga Esta sección describe el algoritmo paralelo que ha sido implementado y utilizado para este estudio. Antes de introducir la descripción del algoritmo, vamos a formular un problema general de optimización en el contexto de los sistemas completamente heterogéneos. Asumimos que el procesamiento de elementos en el sistema pueden ser modelados por un conjunto de recursos informáticos P={pi} P i=1, donde P es el número total de procesadores en el sistema, y cada procesador se mide por su velocidad relativa wi. Con el fin de estimar velocidades relativas para los procesadores, utilizamos una función benchmark representativa que hace uso de una computación directamente relacionada con el dominio de la aplicación considerada. También denominamos W a la cantidad de trabajo total que debe realizar un algoritmo para imágenes hiperespetrales. Esta cantidad de trabajo depende del algoritmo que consideremos. Puesto que la mayoría de los algoritmos de procesado en las aplicaciones de imágenes hiperespectrales engloban repetidas operaciones de productos vectoriales, podemos medir la cantidad de trabajo implicada en cada algoritmo en términos de operaciones elementales de multiplicación/acumulación (MAC). Con la anterior fórmula presente, el procesador pi consigue una parte de αi x W del trabajo total ejecutado por un determinado algoritmo, donde αi 0 para 1 i P y Σ p i=1 αi = 1. Una visión abstracta del problema puede ser simplemente exponer una arquitectura cliente-servidor, en la que el nodo servidor es responsable de la distribución de trabajo entre los nodos P, y el nodo cliente opera con las firmas espectrales contenidas en la partición local. Las particiones locales se actualizan localmente y, dependiendo de los algoritmos, los cálculos resultantes pueden también intercambiarse entre los procesadores cliente, o entre los servidores y los clientes. La secuencia general de operaciones ejecutadas se resume como sigue: 26

27 Fermín Ayuso y Víctor Manuel Ochoa Algoritmo de reparto de carga entre procesadores heterogéneos. 1. Generamos la información necesaria, incluyendo el número de procesadores disponibles en el sistema, P, y el número identificativo para cada procesador, {p i } P i =1 2. El procesador master obtiene las N primeras lineas de la imagen hiperespectral contenida en el fichero bsq, siendo N el número de lineas que vamos a utilizar para la estimación de carga por parte de cada procesador. 3. Comunicamos a cada procesador, mediante una función de broadcast, estas N lineas leídas por el master. 4. Cada procesador calcula el tiempo que tarda en procesar estas N lineas y se lo comunica al master. Para ello, procesa X veces las N lineas y calcula el tiempo empleado en cada una de las veces. El tiempo que comunica cada procesador al master se calcula de la siguiente forma X TimeProccess N i =0, donde TimeProcess (N) es el tiempo empleado en X procesar N lineas. El proceso a las que son sometidas las N primeras lineas de la imagen es el que se detalla en el apartado Procesamiento de la imagen hiperespectral, y se realiza con un tamaño de ventana fijo e igual a 3x3. 5. El tiempo estimado para cada procesador, una vez que el master lo ha recibido, es almacenado por el master en una estructura tipo vector, donde el índice de ese vector indica el identificador del procesador. 6. Una vez que se obtienen los tiempos para todos los procesadores, nos disponemos a estimar el número de lineas que le corresponden a cada procesador, dependiendo de los tiempos calculados en el paso anterior. Para ello, realizamos un reparto inversamente proporcional, consiguiendo así que a los procesadores que han tardado más tiempo en procesar las N lineas se les asigne menos lineas de la imagen hiperespectral a procesar. El reparto se puede resumir en las siguientes fórmulas: 27

28 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales NumProcessors NumLines= i=0 1 K Timei donde K es la constante de proporcionalidad, Timei es el tiempo estimado para el procesador i, siendo i el identificador de cada procesador y NumLines el número total de las lineas de la imagen hiperespectral a procesar. Si de esta última fórmula despejamos el valor de K, obtendremos el valor de la constante de proporcionalidad NumLines K= NumProcessors i=0 1 que nos servirá a la Timei hora de asignar lineas a cada procesador. 7. Una vez obtenido el valor de la constante de proporcionalidad K, nos disponemos a repartir el número de lineas que le corresponden a cada uno de los procesadores que participan de la siguiente forma: Pi = K siendo 0 i P Timei 8. Por último, al tratar con números no enteros, es posible que no se asignen el total de las lineas de la imagen a procesar. Para solucionar este problema, se ordena el vector de tiempos estimados para cada procesador y se van asignando una a una las lineas sobrantes a los procesadores que menos tiempo han tardado en estimar. Siguiendo estos pasos, se ha conseguido un reparto de carga equitativo entre los distintos procesadores que participan en el procesado de la imagen hiperespectral. En las siguiente sección veremos los resultados obtenidos al aplicar esta metodología, eligiendo para cada una de las pruebas un tamaño de N (recuérdese que N es el número de lineas utilizadas para estimar el balanceo) diferente. Resultados experimentales Esta sección proporciona una evaluación de la eficiencia del algoritmo descrito en el apartado anterior. Antes de comenzar con el desarrollo del estudio, empezaremos describiendo la arquitectura y la imagen empleadas para la evaluación. 28

29 Fermín Ayuso y Víctor Manuel Ochoa Arquitectura empleada Para el desarrollo de este trabajo, se ha utilizado una plataforma de computación paralela con arquitectura heterogénea. La tabla 1 muestra las especificaciones de los nodos de esta arquitectura heterogénea, disponible en el departamento de Astrofísica Extragaláctica, del Instituto de Astrofísica de Andalucía (CSIC). La arquitectura heterogénea está compuesta por 13 nodos con dos procesadores cada uno y con una velocidad entre 2,73 y 2,92 Ghz por procesador. El sistema operativo utilizado por cada uno de los nodos es Linux mdv(x86). La memoria RAM es idéntica para todos los nodos (1,98 GB) y la memoria de intercambio está entre 977 MB y MB. NOMBRE CPU DISCO LOCAL MEMORIA RAM SWAP hyper03 2 x 2.73 Ghz GB 1.98 GB MB hyper04 2 x 2.73 Ghz GB 1.98 GB MB hyper05 2 x 2.73 Ghz GB 1.98 GB MB hyper06 2 x 2.92 Ghz GB 1.98 GB MB hyper07 2 x 2.92 Ghz GB 1.98 GB MB hyper09 2 x 2.92 Ghz GB 1.98 GB MB hyper10 2 x 2.92 Ghz GB 1.98 GB MB hyper11 2 x 2.73 Ghz GB 1.98 GB MB hyper12 2 x 2.73 Ghz GB 1.98 GB MB hyper13 2 x 2.73 Ghz GB 1.98 GB MB hyper14 2 x 2.73 Ghz GB 1.98 GB MB hyper15 2 x 2.73 Ghz GB 1.98 GB MB hyper16 2 x 2.73 Ghz GB 1.98 GB MB SISTEMA OPERATIVO Linux mdv (x86) Tabla 1: Características de la arquitectura heterogénea del Instituto de Astrofísica de Andalucía Análisis del rendimiento Descripción de la imagen utilizada en las pruebas Una vez que conocemos de forma genérica el concepto de imagen hiperespectral y la arquitectura en la que se ha realizado el estudio, vamos a intentar 29

30 Aplicación de la tecnología Grid al tratamiento de imágenes hiperespectrales presentar las características de la imagen utilizada para realizar las pruebas de estimación de carga entre los distintos procesadores, del tiempo de ejecución, del procesamiento de la imagen, etc. Imagen AVJRBP_RAD El algoritmo paralelo desarrollado ha sido aplicado a la imagen obtenida por el sensor AVIRIS, operado por el Jet Propulsion Laboratory de la NASA, sobre la Jasper Ridge Biological Preserve (JRBP) de California. Estos datos están disponibles en unidades de radiancia (obtenidos de ). El conjunto de datos, adquiridos en abril de 1998 consiste en 512 x 614 píxeles y 224 bandas espectrales con una resolución del terreno de 20 metros, una resolución espectral de 10nm, y 16-bits de resolución radiométrica (tamaño de la imagen: 134 MB). La ilustración 5 muestra una banda espectral de la imagen. Ilustración 9: Imagen del sensor AVIRIS sobre la Jasper Ridge Biological Preserve (JRBP) de California En la ilustración 10 se muestran firmas espectrales en unidades de radiancia asociadas con los principales componentes que constituyen la JRBP. Las firmas, denotadas como г1 (suelo), г2 (bosques), г3 (hierba seca), г4 (vegetación chaparral ) y г5 (sombra), fueron obtenidas de la escena de la imagen usando un método híbrido, 30

31 Fermín Ayuso y Víctor Manuel Ochoa combinando inspecciones visuales e información a cerca de la escena. De forma específica el conocimiento del terreno se usó para identificar zonas de vegetación homogénea y áreas de sombra y suelo en la imagen. Ilustración 10: Firma espectral seleccionada de la imagen AVJRBP_RAD Análisis del rendimiento en un cluster heterogéneo Las primeras pruebas desarrolladas sobre esta imagen han sido las de procesado, siguiendo el método descrito en el apartado Procesamiento de la imagen hiperespectral, para el caso de una ejecución secuencial y con distintos tamaños de ventana. En la tabla 2 se muestran los tiempos de ejecución, expresados en segundos, para cada nodo de la arquitectura, para los diferentes tamaños de ventana escogidos. Nodo Ventana 3x3 Ventana 5x5 Ventana 7x7 Ventana hyper03 29,66 95,33 237, hyper04 27,66 90,33 227,5 413 hyper05 30, hyper06 18, hyper07 18, hyper09 18, hyper10 18, hyper11 34, hyper hyper13 28, hyper14 29, hyper15 29,