GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS

Transcripción

1 GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS MAURO CANABÉ SERGIO NESMACHNOW Centro de Cálculo, Facultad de Ingeniería Universidad de la República, Uruguay GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 1/16

2 CONTENIDO 1. Introducción 2. Planificación en entornos heterogéneos 3. Heurísticas para planificación 4. Computación en GPU 5. Implementación en GPU 6. Análisis experimental 7. Conclusiones y trabajos futuros GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 2/16

3 INTRODUCCIÓN Computación distribuida heterogénea (HC) Computación paralela: clusters, grid computing. Scheduling (Planificación) Asignación de tareas a recursos. Distintos criterios: tiempo de ejecución, utilización, otros. Problema NP-hard. La heterogeneidad aumenta la complejidad del problema Heterogeneous Computing Scheduling Problem (HCSP). Utilizacion de heurísticas y metaheurísticas para resolverlo. Este trabajo estudia la aplicación de técnicas de computación paralela en GPU para mejorar el desempeño de heurísticas de planificación en sistemas HC. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 3/16

4 PLANIFICACIÓN EN ENTORNOS HETEROGÉNEOS HC: conjunto coordinado de recursos informáticos heterogéneos. La planificación es crucial para lograr la eficiencia. HCSP formulación: Conjunto de máquinas heterogéneas P = {m 1, m 2,..., m M }. Conjunto de tareas T = {t 1, t 2,..., t N } a ser ejecutado en P. Ejecución de función de tiempo ET: P T R. Tiempo necesario para ejecutar la tarea t i en la máquina m j. Objetivo: encontrar un asignacion (function f: T N S M ) que minimiza el makespan: makespan = HCSP es NP-hard, la dimensión de HCSP, espacio de búsqueda es O(M N ) GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 4/16

5 HEURÍSTICAS PARA PLANIFICACIÓN Las técnicas de planificación basadas en lista (list scheduling) son métodos deterministas que trabajan asignando prioridades a las tareas según criterios prefijados. 1) mientras queden tareas por asignar 2) determinar la tarea más adecuada de acuerdo con el criterio elegido 3) para cada tarea t no asignada, cada máquina m 4) evaluar criterio (t, m) 5) fin para 6) asigna la tarea seleccionada a la equipo seleccionado 7) fin mientras GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 5/16

6 Min-Min o o o Sufferage o o o HEURÍSTICAS BASADAS EN LISTA Algoritmo ávido que selecciona la tarea que se puede completar lo antes posible. El método comienza con el conjunto U de todas las tareas no asignadas, calcula el MCT para cada tarea en U para cada máquina, y asigna la tarea con el MCT mínimo general para la mejor máquina. La tarea asignada se quita de U, y el proceso se repite hasta que todas las tareas se asignan. Genera asignaciones más equilibradas y por lo general encuentra valores más pequeños de makespan que las otras heurísticas, ya que se espera que las tareas sean asignadas a las maquinas que las ejecutan más rápido. En casa paso de la iteracion determina cual es la tarea que se vera más afectada si no es asignada. El valor de sufferage se calcula como la diferencia entre el mejor MCT de la tarea y su segundo mejor MCT. Da prioridad a las tareas con valor de sufferage más alto, asignándolas a las máquinas que las ejecuten en el mínimo tiempo. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 6/16

7 COMPUTACIÓN EN GPU Originalmente la GPU fue diseñada para desempeñar exclusivamente el procesamiento de gráficos en las computadoras. Hoy en día, las GPU tienen una potencia de cálculo de dimensiones considerables. En los últimos diez años, las GPUs han sido utilizadas como una arquitectura de hardware en paralelo para lograr la eficiencia en la ejecución de aplicaciones. En un principio el desarrollo fue mediante el uso de APIs gráficas como OpenGL y DirectX. En 2007 NVIDIA introduce CUDA, una arquitectura de software para la gestión de la GPU como un dispositivo de computación en paralelo sin necesidad de mapear los datos y el cálculo en un API gráfico. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 7/16

8 COMPUTACIÓN EN GPU - CUDA CUDA se basa en una extensión del lenguaje C Para el programador CUDA, la GPU es un dispositivo informático que es capaz de ejecutar un gran número de threads en paralelo. Cada thread de la GPU ejecuta simultáneamente una copia de un procedimiento especifico sobre un conjunto de datos diferentes. La GPU tiene su propia DRAM, y los datos se copian de la memoria DRAM de la GPU a la memoria RAM de la máquina (y viceversa) mediante llamadas a la API de optimizada CUDA. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 8/16

9 IMPLEMENTACIÓN EN GPU Este trabajo presenta implementaciones paralelas de MinMin y Sufferage en GPU. Para cada tarea no asignada se ejecuta en paralelo sobre todas las máquinas la evaluación del criterio propuesto, almacenando en un vector auxiliar el identificador de la tarea, el mejor valor obtenido para el criterio y la máquina a la cual hay que asignar la tarea para obtener dicho valor. Este vector se procesa para obtener el mejor valor que cumpla con los criterios y asignar la tarea a la máquina. Este procesamiento del vector también se realiza usando la GPU. En el caso particular del algoritmo Min-Min, se realizo el procesamiento por máquina en lugar de por tareas. Esta estrategia de paralelismo por máquina es menos eficiente por su pobre escalabilidad para problemas de grandes dimensiones. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 9/16

10 IMPLEMENTACIÓN EN GPU GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 10/16

11 Plataforma computacional ANÁLISIS EXPERIMENTAL Dell PowerEdge, QuadCore E5530 at 2.27 GHz, 48 GB RAM, CentOS Linux 5.4. Tesla C1060 Computing Processor (240 processor cores at 1.33 GHz, 4 GB). Instancias de prueba 24 instancias, con dimensiones (tareas maquinas): , , , 16384x512, 32768x1024, y 65536x2048. Para cada dimensión se han generado veinticuatro instancias HCSP en relación a todas la combinaciones de heterogeneidad y consistencia. Doce de ellas teniendo en cuenta los valores de parametrización de Ali et al (2000) y las otras doce con los valores de Braun et al (2001). GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 11/16

12 Resultados experimentales RESULTADOS Min-Min y Sufferage: valores promedio en 24 ejecuciones para todas las dimensiones. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 12/16

13 speedup RESULTADOS Análisis de speedup 6 5 Min-Min Sufferage x x x x x x x2048 dimensión GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 13/16

14 CONCLUSIONES Ambos algoritmos fueron desarrollados siguiendo un enfoque de descomposición de dominio simple, el cual permitió escalar para resolver problemas de dimensión grande (65536 tareas y 2048 máquinas). Los resultados experimentales demostraron que las implementaciones paralelas de Min-Min y Sufferage en la GPU proporcionan aceleraciones signifcativas sobre el tiempo requerido por las implementaciones secuenciales en la resolución de casos de tamaño significativo. Estas implementaciones paralelas permiten hacer frente a grandes escenarios de planificación en tiempos de ejecución razonables. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 14/16

15 TRABAJO FUTURO Mejorar las implementaciones propuestas en GPU, principalmente mediante el estudio de la gestión de la memoria dentro de la GPU de forma que los threads accedan más eficientemente a memoria. Realizar implementaciones híbridas que sean capaces de utilizar varias GPUs coordinadas por la CPU. Complementar las heurísticas con métodos eficientes de búsqueda local implementados en GPU. GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 15/16

16 GRACIAS POR SU ATENCIÓN FACULTAD DE INGENIERÍA, UNIVERSIDAD DE LA REPÚBLICA, URUGUAY GPU IMPLEMENTATIONS OF SCHEDULING HEURISTICS FOR HETEROGENEOUS COMPUTING ENVIRONMENTS 16/16