CONSTRUCCIÓN Y DISEÑO DE UN CLÚSTER TIPO HPC VIRTUALIZADO

Transcripción

1 CONSTRUCCIÓN Y DISEÑO DE UN CLÚSTER TIPO HPC VIRTUALIZADO Juan Alberto Antonio Velazquez, IPN-CIDETEC, México D.F. Tecnológico de Estudios Superiores de Jocotitlán jantoniov0801@ipn.mx Jesús Antonio Alvarez Cedillo, Juan Carlos Herrera Lozada, IPN-CIDETEC, México D.F. jaalvarez, jlozada@ipn.mx Abstract Virtualization has an important role in computer security, and most companies use it to protect the information using virtual systems that communicate with physical systems. Companies also see advantages as saving space and lower energy use which in turn is included in saving a lot of money. This paper defines the parallelization technique for load balancing and process migration, which can be done by kernel-level software such as MOSIX. You can define virtualization techniques used to handle different operating systems. Virtualizer software used was Virtual-box can be installed on different platforms and accept the installation of several operating systems including to Opensuse. Keywords: Virtualization, Mosix, clusters, Virtualbox Introducción Se entiende por cluster a un conjunto de computadoras conectadas en red, utilizados generalmente para la solución de tareas que en una sola computadora no se puede hacer. El cluster de tipo HPC (High performance cluster), utilizado para la solución de problemas de índole científico. Una alternativa para la construcción de un cluster tipo HPC [2], es utilizando software libre, como en el caso del sistema operativo Linux y un middleware a nivel de kernel como lo es mosix. Mosix se hace cargo de ciertas funciones a nivel de kernel del sistema operativo, pero su función principal es la de balancear la carga de los nodos conectados, y esto lo hace migrando los procesos a nivel microprocesador. Por otro lado se propone la virtualización como una herramienta con la cual se pueden simular los equipos del cluster fisico de manera virtual, haciendo que se reduzcan los costos, el espacio, gasto de energía, y se le puede añadir seguridad. En el presente trabajo se hace un análisis de trabajo del funcionamiento de un cluster fisico y del funcionamiento de un cluster virtual[4]. CONCEPTOS BASICOS. Se han implementado clusters HPC con software a nivel de kernel, como lo es mosix, en la universidad de Jerusalén se han implementado clusters para investigación, como es el caso de la bioinformática [1], la cual ocupa gran cantidad de ejecución de cálculos y renderización de imágenes de ADN y enlaces químicos. En la actualidad la virtualización se ha utilizado más en el campo de servidores y se le está tomando importancia en los clusters. Existe poca información de clusters implementados virtualmente, con mosix. En la universidad de Barcelona se ha trabajado con el Grid Cloud con ayuda de sistemas virtualizadores como Xen y el sistema para crear Cloud como Open Nébula [3]. En lo referente a Mosix y su trabajo en clusters virtuales, los creadores de Mosix, demuestran que por medio de máquinas virtuales se pueda crear un Grid de interconexión de clusters virtuales, cada uno trabajando en un solo equipo y administrado por dos Workstation [4]. I.1 Cluster Virtual Al igual que el cluster físico la creación del cluster virtual implica tener 4 nodos conectados por medio de hardware virtual, como tarjetas de red virtual, procesadores, discos duros, cantidad de memoria, USB, etc. En Virtual Box se puede escoger la marca de tarjeta de red y también el tipo de conexión interna para comunicar los hosts entre sí. Algunas marcas que maneja la máquina virtual de Virtual Box [5] son: Intel PRO/1000 MT Desktop, PC net-fast III, entre otras. Aquí no existe un dispositivo central llamado switch, sino que internamente la conexión virtualizada toma el lugar de la red física, pero sin dispositivos ni cables de por medio. A su vez los discos duros y las memorias virtuales toman un papel importante antes de instalar un sistema operativo, ya que estos dispositivos pueden tomar el tamaño de almacenamiento requerido para las funciones del sistema operativo. Por ejemplo, en lo referente a la memoria RAM podemos tomar diferentes tamaños de memoria que pueden ser desde los 4Mb hasta los 2048 Mb. Los discos duros se pueden configurar en la máquina virtual y su capacidad puede ser modificada por el Administrador del sistema virtual, desde 4 Mb hasta los 2 Tb de espacio. Ya teniendo los nodos configurados con el tipo de red, se elige el sistema operativo Opensuse 11.1 y se escoge el disco duro virtual, que anteriormente se había configurado su tamaño. La instalación y configuración del sistema operativo Opensuse, se puede hacer en un disco montado en la unidad física de la computadora o bien mediante una imagen de disco con extensión *.nrg o *.iso.

2 I. 2 Diferencias entre el cluster virtual y cluster físico Las diferencias entre el cluster virtual y el cluster físico son notables a simple vista, pero en lo referente a las velocidades del procesador, como a las capacidades del disco duro y la memoria RAM dependen en las máquinas físicas de su plataforma, que pueden ser de 32 y 64 bits. La máquina virtual depende de estas plataformas para su funcionamiento. La ventaja de las plataformas es que cada máquina virtual puede acoplarse a sus características físicas, haciendo que una máquina virtual de 32 bits pueda funcionar en una máquina física de 64 bits. Los clusters físicos cuentan con dispositivos que se encuentran físicamente instalados en una placa base y sus características imponen una velocidad de procesamiento y de acceso a la memoria RAM, además de que el disco duro puede almacenar la información que se requiera a una velocidad de lectura/escritura que depende de la placa base. Todos estos dispositivos de hardware trabajan conjuntamente con el microprocesador, con lo cual al trabajar a la velocidad de procesamiento, todos los dispositivos son compatibles con el procesador y la placa madre si es un sistema a 64 bits. METODOLOGIA. El presente trabajo se basó en la investigación documental, estableciendo la base teórica del problema, investigando y documentando las técnicas de Virtualización, así como los diferentes tipos de clusters junto a la programación paralela para la solución de problemas. El virtualizador a utilizar en el proyecto es Virtual Box y se crearon 4 máquinas virtuales llamados nodo0, nodo1, nodo2 y nodo3; configurándose la red interna para la comunicación entre ellos, además de almacenamiento y acceso remoto. De igual forma se instaló el Mosix, para la conexión entre los nodos del cluster. El trabajo consiste en realizar un cluster físico. El cual cuenta con cuatro equipos de cómputo conectados a un medio de comunicación físico por medio de un switch compartiendo recursos. Estos equipos de cómputo que se facilitan, tienen un procesador Pentium 4 a 1.5 GHz, con un disco duro de 80 Gb de almacenamiento. Cada equipo de cómputo cuenta con tarjetas de red que se instalan en el bus PCI. Una de las tarjetas trabaja a una velocidad de 10/100 Mbps; la otra tarjeta trabaja a una velocidad de 1 Gbps y es la que se ocupa para la trasmisión de la información. Uno de los cuatro nodos (ver Figura 1), fue elegido para ser el nodo maestro. Este nodo maestro trabaja para la comunicación con los demás nodos con tarjetas de red veloces. La tarjetas de red que utiliza, una es de 10/100 Mbps y se conecta a internet en la red de la institución y la otra tarjeta de red, es de 10/100/1000 Mbps y es la que conecta a los nodos esclavos; los nodos esclavos se conectan por medio de la tarjeta de 10/100/1000 Mbps, con lo cual hace que la red entre los nodos sea eficiente y rápida. Figura 1 Esquema del cluster con 3 nodos y un nodo maestro. El medio de comunicación es cable UTP categoría 5e, que conecta los nodos al switch. Se ha elegido el sistema operativo Linux [6], en su distribución Opensuse en la versión 11.1 ya que el parche Mosix es compatible con esta distribución. Esta instalación se hizo para cada uno de los nodos, los cuales se configuran en red dentro del sistema, asignando las direcciones de red. El cluster virtual es configurado de la misma manera que el cluster físico, pero la diferencia de éste con el sistema físico, es que depende del hardware virtual con el que se cuenta dentro de la máquina virtual, la cual es Virtual Box en su versión de la empresa Sun Microsystems. Igual que en los nodos físicos, en la máquina virtual se instalaron y configuraron cuatro nodos virtuales con el sistema operativo Linux en su distribución Opensuse 11.1 [7], configurada en una red interna en la cual los nodos son capaces de intercomunicarse vía red compartiendo recursos de software y hardware. En el cluster físico se han implementado 4 computadoras con características similares y estas son: 1.- Cuatro nodos interconectados con un enlace con un SWITCH Enterasys a 1000Mbps. 2.- Procesadores CELERON CORE DÚO, 2 Gb de memoria RAM, cada uno con un disco duro de 160 Gb. 3.- Sistema operativo Linux Opensuse versión 11.1 de Novel. 4.- El nodo maestro (nodo0), cuenta con 2 tarjetas de red eth0 y eth1, en donde eth1 tiene salida a internet por medio del numero IP Este nodo incluye los servicios de servidor web Apache2 y Openssh para poder acceder al cluster desde internet. 5.- El middleware de conexión a nivel de kernel MOSIX [8]. La configuración de la dirección IP se hace en cada uno de los nodos, también se tiene que configurar el nombre del equipo para reconocerlo en la red, esto se hace desde el directorio

3 /etc/hosts, este archivo se edita, se le pone su dirección IP y los nombres de los nodos como se van a reconocer en la red. Ejemplo: nodo nodo nodo nodo3 Para instalar Mosix, es necesario tener los archivos de instalación y de configuración, los cuales se obtienen de la página de los creadores de Mosix [8], los archivos necesarios para la instalación deben buscarse dependiendo del sistema operativo y también por la versión del sistema operativo, en este podemos encontrar un apartado para la instalación del kernel en todas las distribuciones de Linux que se conocen. En el caso de la distribución OpenSUSE se pueden obtener los archivos de instalación RPM. En el caso del cluster se escogió la versión de OpenSUSE 11.1 y los archivos que se instalaron fueron de la última versión de Mosix, la Los archivos recomendados para la instalación es el kernelmosix _ i586.rpm que es necesario para el funcionamiento del kernel de Mosix y del kernel del sistema operativo Linux y también un archivo necesario para el funcionamiento es el archivo mosix-utils i386.rpm, que contiene otras características de funcionamiento de migración de Mosix [8]. La instalación de estos archivos de forma automática se hace: pc0@linux-ipvw:~/escritorio/kernelmosix> rpm -ihv kernelmosix-latest.i586.rpm pc0@linux-ipvw:~/escritorio/kernelmosix> rpm -ihv mosixutils-latest.i386.rpm Al hacer esta instalación Mosix instala propiedades básicas de conexión entre kernels de Mosix, pero no se apropia completamente del kernel de Linux. Para ver el funcionamiento de Mosix, es necesario reiniciar para que el gestor de arranque Grub, reconozca al kernel de Mosix como el primer sistema de arranque. RESULTADOS Para desarrollar las pruebas, fue necesario hacer pruebas de balanceo y de carga en cada uno de los nodos conectados en red y que serían ejecutados por Mosix. Para esto se buscaron los algoritmos que por su complejidad matemática responden a un tiempo de retardo, estos algoritmos son: los algoritmos de factorial, un algoritmo con 3 bucles anidados (Stress) y el algoritmo que calcula el Pi por el método de Leibniz. Las pruebas que se realizaron en cada uno de los algoritmos fueron en base a muestras numéricas que en promedio de diez corridas por muestra arrojaron diferentes tiempos en cada uno de los equipos en los que fueron ejecutados como: en una computadora (secuencial), el cluster físico y en el cluster virtual. Además de su análisis de Speedup, para ver la ganancia en tiempos comparados entre los tiempos secuenciales y los clusters físicos y virtuales. El speedup es conocido como aceleración y es una medida del rendimiento entre un sistema multiprocesador y un sistema de procesador simple. Dicho de otra manera, el factor Speedup mide cuan efectiva resulta ser la paralelización de un programa, frente a su versión secuencial. Para ello es necesario medir los tiempos de ejecución de cada versión y con ellos calcular la relación entre los tiempos y speedup, que se define como: Tsec= tiempo de ejecución del programa secuencial. Tpar= tiempo de ejecución del programa paralelo III.1 Pruebas en e algoritmo de Stress con 3 bucles anidados. Para el algoritmo Stress, las muestras que se tomaron en cuenta (Tabla 1) para desarrollar el algoritmo fueron de acuerdo al alcance de los tipos de datos que el lenguaje c puede alcanzar. La complejidad computacional del algoritmo de Factorial es O(n 3 ), y debido a esta complejidad la ejecución tiene un retardo al solucionar las diferentes muestras. #include <stdio.h> int main( ) int i,j,k; int n=100; printf("calculando el tiempo en el algoritmo de stress de un numero %d:,n); for (i=0; i<=n; i--) for (j=0; j<=i; j++) for(k=0; k<=j; k++) printf( %i,k); return 0; Tabla 1 Muestras de tiempos calculados secuencialmente, en cluster físico, cluster virtual y speedup con el algoritmo de stress. En la ejecución secuencial del algoritmo de Stress se utilizaron las muestras del 25 al 100, los tiempos que se muestran en la siguiente gráfica (Figura 2).

4 Se utilizó la formula de speedup para ver la diferencia entre el cluster fisico y una sola computadora que ejecuta el algoritmo de stress secuencialmente figura 5. Figura 2 Tiempo calculado secuencialmente por algoritmo de stress Las mismas muestras se utilizaron para ejecutarlo en el cluster fisico y el resultado de la gráfica es el siguiente, figura 3. Figura 5 Grafica de comparacion entre el tiempo secuencial, tiempo fisico y speedup del algoritmo de stress. El algoritmo de stress tiene un comportamiento de ejecución medianamente alto en comparación del cluster fisico (figura 6). Figura 3 Gráfica de tiempo en el cluster fisico. El comportamiento de la gráfica en el cluster virtualizado, figura 4. Figura 6 Gráfica de comparacion entre tiempo secuencial, cluster virtual y el speedup aplicado al algoritmo de Stress. Figura 4 Gráfica de comportamiento en el cluster virtual con el algoritmo de Stress. III.2 Pruebas de Algoritmo de PI por el método de Gregory- Leibniz. El algoritmo de PI matemáticamente calcula la aproximación al número más cercano al valor de PI, el cual es , desarrollando el algoritmo de Pi en un lenguaje de programación como c, se busca un tipo de dato lo suficientemente capaz de soportar un numero flotante tan grande como lo es el valor de PI y este tipo de datos es long double. Su análisis de complejidad computacional arroja un resultado logarítmico O(log n) y esta complejidad demuestra que al ejecutar este algoritmo en un solo nodo puede tener un retardo de ejecución de muchos minutos, por lo cual al paralelizar el retardo es menor.

5 #include <stdio.h> #include <stdlib.h> main( ) long double suma =0.0,suma1=0.0, suma2=0.0, k, k1,k2, n= ; //aquí se modifica la numeración k=2*n; k1=-3; k2=-1; while (k1<(k-3)) //primera sumatoria k1=k1+4; suma1= suma1+1/k1; printf("la suma1 es %f \n",suma1); while(k2<(k-3)) //segunda sumatoria k2=k2+4; suma2= suma2+1/k2; printf("la suma2 es %f \n",suma2); suma=4*(suma1-suma2); //sumar las 2 primera sumatorias y multiplicarlos por 4 ya que es el valor de ¼ deseado printf("el valor de PI es de %.90Lf \n", suma); Figura 7. Gráfica que muestra el tiempo secuencial en la ejecución del algoritmo de Pi de Leibniz. La ejecución del algoritmo de Pi en el cluster fisico denota la mejoría en relación a la ejecución en un solo nodo, esto se muestra en la gráfica de la figura 8. Las muestras se escogieron de un valor de 1500 a (Tabla 2), debido a que en el algoritmo mientras el valor de n sea más alto, más sobrecarga a la computadora pero es más cercano el resultado al valor de Pi. Tabla 2 Muestras, tiempos calculados secuencialmente en cluster fisico, cluster virtual y speedup con el algoritmo de PI de Leibniz. Figura 8 Tiempo de ejecución en cluster fisico del algoritmo de Pi de Leibniz. El cálculo del algoritmo de Pi de manera secuencial nos arroja los tiempos en el que se ejecutaron cada una de las muestras, las cuales se pueden observar en la gráfica de la figura 6. En el cluster virtual se ejecutaron las mismas muestras y se da como resultado una gráfica parecida a la del cluster fisico, figura 9.

6 Figura 9 Gráfica de tiempo en la ejecución del algoritmo Pi de Leibniz en cluster virtual. Figura 11 Comparación de tiempos obtenidos entre el cluster virtual y la ejecución secuencial y su resultado de la aceleración con el algoritmo de PI. La fórmula del speedup aplicable para comparar los tiempos entre el cluster físico y el nodo individual denota la aceleración obtenida y la mejoría que existe entre la ejecución del algoritmo de pi en un solo nodo y el cluster físico (Figura 10). Figura 10 Gráfica de tiempo en la ejecución del algoritmo Pi de Leibniz en cluster virtual. Posteriormente se analizó la aceleración entre la ejecución secuencial y la ejecución de las muestras en el cluster virtual, la fórmula del speedup nos muestra un resultado parecido al del speedup obtenido entre el cluster fisico y un solo nodo (Figura 11). CONCLUSIONES Se puede ver tanto en el cluster virtual como en el cluster físico que necesitan de una buena conexión en red de alta velocidad y de una buena capacidad de memoria RAM para trabajar óptimamente. Las pruebas de desempeño que se realizaron en cada uno de los cluster nos arrojaron resultados favorables en lo relacionado al tiempo de ejecución. En el cluster físico en comparación al cluster virtual, el desempeño obtenido es ligeramente mayor al que se realizó en el cluster virtual, debido a que en el cluster virtual las máquinas virtuales trabajan con un solo procesador, el cual para un buen funcionamiento utiliza una memoria RAM lo suficientemente grande para la utilización de las máquinas virtuales. La ventaja en la utilización de máquinas virtuales recae en el ahorro de energía eléctrica, los costos y en la reducción de espacio. Por otro lado, en la prueba de desempeño se observó el comportamiento de cada uno de los algoritmos ejecutados tanto física como paralelamente. El algoritmo que se ejecuto más lento fue el algoritmo de stress, en el cual en el estudio de su complejidad computacional el resultado dado es O(n 3 ), con lo cual nos demuestra el retardo en la ejecución. En todos los casos en los que se hicieron las pruebas de desempeño tanto física como virtualmente, el algoritmo con un mejor desempeño fue el algoritmo de PI por el método de Gregory- Leibniz. El desempeño virtual en algunas de las ejecuciones obtuvo un tiempo elevado que no se esperaba, debido a que la ejecución fue un poco más lenta de lo que se hace en el cluster físico. El utilizar Mosix nos dice que no es solamente un programa que forma parte de un sistema operativo, también es un programa que trabaja silenciosamente y que cuando se está ejecutando algún programa en paralelo la carga de trabajo lo migra de nodo en nodo buscando un nodo disponible para su ejecución. Tanto en el cluster físico como en el cluster virtual

7 se pueden añadir más nodos, con esto se puede hacer más potente el trabajo del cluster, sin embargo la desventaja de Mosix es que trabaja con licencias. En este trabajo se utilizó una licencia gratuita para conectar hasta 6 nodos, con lo cual hace que el desempeño en algunas ocasiones no sea el esperado. Si se quiere expandir a mas de 6 nodos (lo cual es recomendable), se tiene que comprar una licencia según el número de nodos que se quieren anexar al cluster. Con esto el desempeño de un trabajo ejecutado en paralelo se espera sea eficiente y en menor tiempo. De la elaboración del proyecto en donde se ha creado el cluster virtual, se concluye que cumple con las expectativas esperadas, como lo es la construcción del mismo y que al ser comparado con el cluster físico los tiempos de ejecución fueron óptimos. En comparación con otros clusters que se han realizado con Mosix de forma física, se puede decir que el cluster virtual realiza las operaciones de balanceo y alto desempeño en forma óptima. En lo relacionado a la virtualización, no se encontraron trabajos acerca de clusters virtuales, debido a que aún se están desarrollando aplicaciones y sus beneficios [9]. REFERENCIAS [1] Lahoz-Beltrá Rafael., Bioinformática: simulación, vida artificial e inteligencia artificial., Edit. Ediciones Díaz de Santos., año 2004., 574 pp. [2] D. Sloan, Joseph,. High performance Linux clusters with OSCAR, Rocks, openmosix, and MPI., 2a. ed. Edit. O'Reilly Media, Inc., pp. [3] Pages Montanera Enric, Gestion sostenible de clústers de recursos virtuales,memoria de proyecto de ing, 83 págs,universidad Autonoma de Barcelona,2009. [4] Barak Ammnon, The Mosix Organizational Grid A white Papper,Deparment of Computer Science The Hebrew University of Jerusalem, Israel,August [5] Becker Dirk., VirtualBox: Installation, Anwendung, Praxis., Edit. Galileo Press., año 2009., 321 pp. [6] Bookman Charles., Building And Maintaining Linux Clusters., Edit. Sams Publishing, año 2003, 265 pp. [7] M. Surhone Lambert, T. Timpledon Miriam, F. Marseken Susan., Opensuse: Operating System, Linux Kernel, O pensuse Project, Novell, SUSE Linux Distributions., Edit. Betascript Publishers., año 2009., 108 pp. [8] Barak A., The evolution of the MOSIX Multi-computer UNIX System., Edit. Hebrew University of Jerusalem. Dept. of Computer Science., Univ., [9] S. Weygant, Peter., Clusters for high availability, 2a. ed., Edit. Hewlett-packard Profesional., 2003,345pp.