1. Introducción 1.1. CPU

Transcripción

1

2

3 1. Introducción El presente proyecto tiene como objetivo ver la importancia de paralelizar algoritmos cuyo requerimiento de cómputo es muy grande, con el fin de disminuir el tiempo de ejecución para tener resultados en un tiempo más corto, así como poder correr sistemas mucho más grandes. Tomaremos el modelo de Ising el cual se analizará en 2D, éste modelo lo ejecutaremos secuencial en un CPU y en paralelo ejecutándose en un GPU, mediremos tanto el tiempo de ejecución así como las propiedades termodinámicas y como se afectan por el tamaño finito del sistema. La paralelización es una forma de cómputo o cálculo en la cual varios procesos se pueden realizarse simultáneamente. Basado en el principio de dividir los problemas grandes para obtener varios problemas pequeños, que son posteriormente solucionados en paralelo. Un programa secuencial se puede paralizar de 3 formas: Nivel de procedimientos: en éste caso se ejecutan varias llamadas a procedimientos de forma simultánea. Nivel de bucles: en éste caso se ejecutan varias iteraciones y/o sentencias del bucle en paralelo. Nivel de bloque básico: en éste caso se ejecutan en paralelo varias operaciones de un bloque de sentencias de asignación. El proceso de paralelización se realiza a nivel de programa fuente en alto nivel, generando una versión equivalente paralela también en alto nivel. A partir del programa original se realiza un detallado análisis de las dependencias entre sentencias del bucle. Estas dependencias determinan un orden parcial de ejecución de las operaciones del bucle que debe ser preservado en la nueva versión generada la cual se paraleliza. Este proyecto tiene como objetivo la paralelización, usando CUDA, de un modelo de Ising en 2D y usando la metodología de tablero de ajedrez para analizar los efectos de tamaño finito en las propiedades termodinámicas y además de calcular los tiempos de ejecuación como función del tamaño del sistema y su comparación con uno simular usando código secuencial CPU La CPU (Central Procesing Unit) es la parte inteligente del sistema, interpreta las instrucciones del programa de usuario y consulta el estado de las entradas; dependiendo de dichos estados y del programa, ordena la activación de las salidas deseadas. La CPU está constituida por los siguientes elementos: Unidad de control (UC): es la responsable de seguir cada una de las operaciones que realiza una instrucción. Unidad aritmética y lógica: es la responsable de recibir todas las operaciones asignadas y convertirlas en datos, esas operaciones son del tipo lógico-matemático y son respaldadas por un co-procesador matemático. El registro: es responsable en detallar las instrucciones tanto efectivas como fallidas. Podemos mencionar un sub-grupo en el que se encuentra el registro contador y es el esponsable de indicar cuál es la instrucción que sigue en el proceso y la memoria caché que es la responsable de guardar los procesos que son de uso regular con el fin de cargarlos rápidamente al ser requeridos. 1

4 La CPU es una unidad de procesamiento general, está preparada para operaciones matemáticas y lógicas con las cuales podemos realizar casi cualquier tarea a una velocidad rápida. El problema viene cuando nos metemos en programas con una carga gráfica muy grande, como pueden ser videojuegos o programas de diseño 3D. Estos programas están continuamente procesando formas y texturas, y hacerlo por medio de la CPU no suele ser la mejor manera, ya que no está específicamente diseñada para estas tareas (ver figura 1). Figura 1: Descripción simplificada del CPU GPU Por sus siglas en inglés, la GPU es la Graphics Processing Unit[2], o unidad de procesamiento de gráficos. Impulsada por la insaciable demanda del mercado de tiempo real, los gráficos de alta definición en 3D, la GPU programable se ha convertido en un procesador de varios núcleos, con paralelismo alto y multihilo, con una tremenda potencia de cálculo y un gran ancho de banda de memoria. Sin embargo, existe una discrepancia con respecto a la capacidad de punto flotante entre la CPU y la GPU debido a que la GPU está especializada para la computación intensiva, la computación de paralelismo alto, y por lo tanto diseñada de tal manera que más transistores se dedican al procesamiento de datos en lugar de almacenamiento en caché de datos y al control de flujo, por lo que en ocasiones la cantidad de accesos a memoria puede jugar en su contra. La GPU es especialmente adecuada para abordar los problemas que se pueden expresar como cálculos paralelos de datos (el mismo programa de ejecuta en muchos elementos de datos en paralelo) con alta intensidad aritmética. Como el mismo programa se ejecuta para cada elemento de datos, hay un menor requerimiento de control de flujo sofisticado, y como se ejecuta en muchos elementos de datos y tienen alta intensidad aritmética, la latencia de acceso a memoria puede ser ocultada con cálculos en lugar de cachés de datos grandes (ver figura 2). Cuda es un chip que está en la tarjeta gráfica del ordenador el cual se encarga del procesamiento gráfico, está constituido de varios núcleos que ofrecen alto rendimiento, encargada de procesar gráficos u operaciones de coma flotante. 2

5 Figura 2: Arquitectura de un GPU Algunas de las característica principales que deben de considerarse cuando se utiliza la GPU para realizar cálculos matématicos son: Todos los núcleos ejecutan la misma instrucción simultáneamente pero con distintos datos (ver figura 3). Mínimo de 32 hilos realizando la misma tarea (casi) al mismo tiempo. Técnica tradicional en el procesamiento gráfico y en muchas aplicaciones científicas. Actualmente existen tres grandes tipos de unidades de procesamiento gráfico, más que por la arquitectura, la diferencia entre ellos es por el modo en que son implementadas las GPU: Tarjetas dedicadas: éste tipo de unidades gráficas son las que proporcionan mayor potencia. Como su nombre lo indica, tienen una serie de especificaciones y están diseñadas para cumplir con sus tareas específicas, por lo que son mucho más eficientes. Generalmente se suele entender que una tarjeta dedicada es aquella que se integra a la tarjeta madre mediante un puerto aparte. Esto último no siempre es necesario, y lo que realmente define a una tarjeta gráfica dedicada es que tiene RAM independiente que solo podrá ser utilizada por el GPU, y mientras cumpla con este requisito puede estar integrada a la placa base o incluso al CPU. Tarjetas integradas: a diferencia de las unidades dedicadas, las integradas utilizan la memoria del sistema para realizar sus funciones. Son este tipo de soluciones las más comunes en las 3

6 compuatdoras modernos, usándose casi en el 90 % de los equipos de cómputo, incluyendo smartphones, tablets y la mayoría de PCs. Con frecuencia el núcleo central de estas unidades solía estar en la tarjeta madre, pero más recientemente las cosas han cambiado, y tanto AMD como Intel suelen integrarlas ahora en sus procesadores, y les han denominado AMD Accelerated Processing Unit e Intel HD Graphics respectivamente. Tarjetas híbridos: están diseñadas para mantener precios relativamente bajos y al mismo tiempo asegurar niveles de potencia adecuados, las unidades gráficas híbridas también comparten la memoria del sistema, pero para disminuir el tiempo de latencia de esta última, integran una cantidad limitada de memoria propia que se encarga de realizar las labores inmediatas. Suele ser éste el tipo de gráficos que encontraremos en compuatdoras portátiles que prometen tarjetas dedicadas (ver figura 4). A diferencia de los procesadores centrales, diseñados con pocos núcleos pero altas frecuencias de reloj, las GPU suelen tener grandes cantidades de núcleos de procesamiento a frecuencias de reloj relativamente bajas. En la actualidad, la mayoría de los núcleos de procesamiento están dirigidos a dos funciones: procesamiento de vértices y de píxeles. Además, este procesador está específicamente diseñado para trabajar con gráficos, con funciones específicas y una arquitectura muy basada en el procesamiento en paralelo. En pocas palabras, con la aceleración por GPU lo que hacemos es quitar trabajo a la CPU y dárselo a la GPU, que lo hará más rápido y mejor. Algunos programas usan aceleración por GPU, pero sin embargo no trabajan con formas, como por ejemplo los reproductores de vídeo, entonces, para qué usan la GPU? pues algunas tarjetas gráficas soportan la decodificación por hardware, es decir, dan la posibilidad de decodificar un vídeo por medio de un chip integrado, que lo hace más rápido y quitando carga a la CPU, por ejemplo, un GPU Chrome apenas podía con 36 imágenes, mientras que con la aceleración GPU se puede ver cómo IE 9 manejaba hasta 256 imágenes con bastante fluidez. Figura 3: Arquitectura de un bloque en un GPU 4

7 Otras aplicaciones también usan la aceleración por GPU, desde la versión CS4, Photoshop y el resto de la suite de Adobe aprovecha la potencia de la tarjeta gráfica para aumentar el rendimiento de la aplicación, sobre todo cuando trabaja con gráficos 3D. Google Earth también tiene aceleración por GPU y en general, todos los programas que trabajen con 3D. Figura 4: Comparación de las arquitecturas del CPU y GPU OpenGL OpenGL (Open Graphics Library)[3] es una especificación estándar que define una API multilenguaje y multiplataforma para escribir aplicaciones que produzcan gráficos 2D y 3D. La interfaz consiste en más de 250 funciones diferentes que pueden usarse para dibujar escenas tridimensionales complejas a partir de primitivas geométricas simples, tales como puntos, líneas y triángulos. Se usa ampliamente en CAD, realidad virtual, representación científica, visualización de información y simulación de vuelo. También se usa en desarrollo de videojuegos, donde compite con Direct3D en plataformas Microsoft Windows. OpenGL consiste en una serie de librerías y rutinas de clases por lo cual (ver figura 5), OpenGL no es un paquete de software de renderizado y modelado como Blender o 3D Max, es una API de bajo nivel que proporciona una interfaz de hardware de gráficos. No es por lo tanto ningún lenguaje de programación, sino tan sólo un conjunto de librerías que son utilizadas a través de lenguajes de programación como VisualC++ para conseguir un interfaz software entre las aplicaciones y el hardware gráfico. OpenGL permite: 1. Construir formas geométricas a partir de primitivas. 2. Ubicar los objetos en el espacio tridimensional y seleccionar el punto de vista de la escena. 3. Aplicar el color a los objetos, ya sea mediante una asignación explícita de la aplicación, a partir de las condiciones de iluminación o mediante la utilización de texturas. 4. Convertir la descripción matemática de los objetos y la información sobre el color en pixeles de la pantalla, proceso que se llama rasterización. Existen implementaciones eficientes de OpenGL suministradas por fabricantes para Mac OS, Microsoft Windows, Linux, varias plataformas Unix, y PlayStation 3. También existen varias im- 5

8 Figura 5: Representación gráfica del proceso de reasterización con OpenGL. plementaciones software que permiten que OpenGL esté disponible para diversas plataformas sin soporte de fabricante MPI MPI (Message Passing Interface)[1] es un estándar que define la sintaxis y la semántica de las funciones contenidas en una biblioteca de paso de mensajes diseñada para ser usada en programas que exploten la existencia de múltiples procesadores. El modelo de programación que subyace tras MPI es MIMD (Multiple Instruction streams, Multiple Data streams)i (ver figura 6), un caso particular de MIMD en el que todos los procesos ejecutan el mismo programa, aunque no necesariamente la misma instrucción al mismo tiempo. Figura 6: Representación de Multiple Instruction Streams (MIMD) utilizado en MPI. MPI proporciona una librería de funciones para C, C++ o Fortran (77 y 90) que son empleadas en los programas para comunicar datos entre procesos, el paso de mensajes es una técnica empleada en programación concurrente para aportar sincronización entre procesos y permitir la exclusión mutua. Su principal característica es que no precisa de memoria compartida, por lo que es muy importante en la programación de sistemas distribuidos. Algunas características de MPI son: 1. Definir un entorno de programación único que garantice la portabilidad de las aplicaciones paralelas (multiprocesadores, multicomputadores, redes, heterogéneos). 6

9 2. Definir totalmente la interfaz de programación, sin especificar cómo debe ser la implementación del mismo. 3. Ofrecer implementaciones de calidad, de dominio público, para favorecer la extensión del estándar. 4. Existencia de implementaciones libres: Mpich, LAM-MPI, OpeinMPI, PVM, etc. Algunas desventajas de MPI son: 1. El acceso remoto a memoria es lento. 2. La programación puede ser complicada. 2. Objetivos El objetivo principal de este proyecto es usar la tecnología CUDA de NVIDIA para desarrollar y optimizar un algoritmo en 2D para un modelo de Ising y su comparación en rendimiento con códigos en serial. Estudiar el efecto que tienen las propiedades termodinámicas sobre el efecto de tamaño finito y como se ven afectadas por el tiempo en la simulación. 3. Modelo de Ising El modelo de Ising, llamado así en honor al físico Ernst Ising quien lo presento en 1925[4], y el cual es un modelo muy sencillo para estudiar el fenómeno físico del ferromagnetismo. El modelo consiste de un arreglo de M puntos fijos en una red con diferente conetividad y es un modelo matemático de ferromagnetismo al estudiar mecánica estadística (ver figura 8). El modelo consta de variables discretas que representan los momentos dipolares magnéticos de los espines atómicos que pueden estar en uno de dos estados, quí representados por + y. Los giros están dispuestos en una red, permitiendo que cada giro pueda interactuar con sus primeros vecinos. El modelo de Ising permite identificar transiciones de fase de la isótropa al ferrofluido y es un modelo simplificado de la realidad. El modelo de Ising bidimensional es uno de los modelos estadísticos más simples para mostrar una transición de fase. Los elementos microscópicos de dicha red, se les identifica con partículas atómicas y únicamente se condidera su momento magnético y se les denomina espines, solo admiten dos posibles estados de energía: abajo/arriba, 0/1 o -1/+1 en las diversas interpretaciones posibles. En el caso del ferrofluido los vecinos prefieren alinearse y significa que {+, +} y {, } tienen la energía más baja que lo pares {+, } y {, +} (ver figura 8). La energía de interacción en un modelo de Ising se representa por: E = J k,l σ k σ l (1) donde σ k,l es el valor de los espines vecionos y J es un parámetro positivo y aquí tomaremos J = 1. En dos dimensiones k y l difieren ya sea por un espaciado reticular en x o un espaciado en y. Esta suma se realiza solo una vez por cada par vecino. Por lo que primero se ejecuta sobre la mitad de 7

10 Figura 7: Representación bidimensional del modelo de Ising. Este modelo considera M puntos fijos los cuales toman en consideración un modelo de espines (momentos dipolares) que solo pueden tomar dos valores de energía, reprentados aquí por + y. los vecinos. En el siguiente algoritmo se muestra como se calcula la energía de los vecinos en un Figura 8: Cálculo de los vecinos 6, 8, 4 y 2 del espín 5 en el modelo Ising bidimensional. 8

11 modelo Ising. Cálculo de la energía en el modelo de Ising input{σ 1,..., σ N } E 0 for k = 1,..., Ndo for n = 1,..., Ndo j V ecinos(n, k) if(j 0)then {E E σ k σ j } output E (2) Si los movimientos de los espines son hacia arriba o abajo e independientes entonces todas las configuraciones son 2 N ya que los valores de los espines pueden tomar: {σ 1,..., σ N } = {±1,..., ±1} Modelo bimensional: resultados Mientras que el modelo de Ising unidimensional es un problema relativamente simple de resolver, el modelo de Ising bidimensional es altamente no trivial. Era sólo el genio de las matemáticas puras de Lars Onsager que fue capaz de encontrar una solución analítica para el modelo de Ising bidimensional. La temperatura crítica para el modelo de Ising bidimesional esta dada por T c = 2 log(1+ 2) = A continuación se presentan los resultados para el modelo de Ising en una red cuadrada de tamaño L L, los sistemas estudiados usando el código serial fueron: L = 8, 16, 32, 64 y 128, mientras que para el código desarrollado en CUDA fueron L = 8, 16, 32, 64, 128, 256, 512, 1024 y En ambos sistemas, los observables calculados fueron la energía E y la magnetización M como función de la temperatura T, además del tiempo de simulación t sim.. En la figura 9 se muestran la comparación de los resultados obtenidos con el código serial y el código usando CUDA, podemos observar que los valores de la E son los mismos para un sistema de tamaño L = 8, mientras que para el sistema con tamaño L = 128, para el caso del código en el CPU los resultados difieren de los obtenidos con el código obtendios en el GPU, en la fase ferrofluida, esto se debe a que el tiempo de simulación para el caso serial se debe de incrementar para obtener una mejor convergencia de la E en la fase ferrofluido y esto trae como consecuencia un tiempo de simulación mayor[5]. En la figura 10(a) se muestran los resultados de los sistemas simulados con el CPU, se puede observar que al aumentar el tamaño del sistema la convergencia en la energía e deficiente y para poder obtener el valor correcto, es necesario aumentar el número de configuraciones del sistema, lo cual trae un aumento considerable en el tiempo de simulaci on, en la figura 10(b) se muestran los resultados de la enrgía como función de la temperatura de sistema simulado en el GPU, podemos observar que los tamaños del sistema son considerablemente mayor que los que se pueden simular en el CPU, además es posible aumentar el tiempo de simulación para obtener una mejor convergencia de los observables en el sistema. Como conclusón de los resultados obtenidos para un modelo de Ising bidimensional utilizando programación serial y masivamente paralela, podemos observar que los 9

12 Figura 9: Energía vs. temperatura obtendida de las simulaciones con los códigos en el CPU y GPU para diferentes valores de L. sistemas simulados con el código serial son muy limitados y las propiedades termodinámicas sufren de un claro efecto en los tiempos de simulación, mientrs que los obtenidos con el código en CUDA se pueden simular tamaños muy grandes, millones de espines en la red cuadradra y los resultados de la energía, presentada aquí converge muy rapidamente al valor correcto calculado de la teória. 10

13 Figura 10: Energía vs. temperatura obtendida de las simulaciones con los códigos en el CPU (a) y GPU (b) para diferentes valores de L. 11

14 Referencias [1] Parallel Programming with MPI, P. Pacheco, Morgan Kaufmann, 1996 [2] CUDA by Example: An Introduction to General-Purpose GPU Programming, J. Sanders, E. Kandrot, Addison-Wesley Professional, [3] OpenGL Programming Guide: The Official Guide to Learning OpenGL, Version 4.3 (8th Edition), D, Shreiner, G. Sellers, J. M. Kessenich, B. M. Licea-Kane, Addison-Wesley Professional, [4] Statistical Mechanics: Algorithms and Computations, W. Krauth, Oxford University Press, USA, [5] M. Weigel, Simulating spin models on GPU, Comput. Phys. Commun. 182, 1833 (2011) Aprobación Dr. José Antonio Moreno Razo Departamento de Física 12