COMPUTACIÓN DE ALTA PERFORMANCE 2013

Transcripción

1 COMPUTACIÓN DE ALTA PERFORMANCE Curso 2013 Sergio Nesmachnow Santiago Iturriaga Grupo de Procesamiento Paralelo Aplicado Centro de Cálculo

2 TEMA 3 PROGRAMACIÓN PARALELA

3 CONTENIDO TEMA 3: EJEMPLO DE PROGRAMACIÓN PARALELA 1. Criba de Eratóstenes paralela a. Enfoque de descomposición funcional (1). b. Enfoque de descomposición funcional (2). c. Enfoque de descomposición de dominio.

4 PROGRAMACIÓN PARALELA 3.6: EJEMPLO DE PROGRAMACIÓN PARALELA

5 CRIBA DE EJEMPLO ERATÓSTENES Problema: hallar los (o la cantidad de) números primos menores que un número positivo dado n. Algoritmo: Operar sobre la lista de números naturales 2, 3,, n, eliminando los múltiplos de 2, 3, 5 y sucesivos números primos. El algoritmo finaliza luego de procesar el mayor primo menor o igual a n. Enfoques: Paralelismo de control (descomposición funcional). Paralelismo de datos (descomposición de dominio).

6 CRIBA DE EJEMPLO ERATÓSTENES ALGORITMO SECUENCIAL (SEUDOCÓDIGO) 1. Crear una lista de números naturales (no marcados) 2, 3,, n 2. k = 2 3. repetir 3.1 marcar los múltiplos de k entre k 2 y n 3.2 k = menor número no marcado > k hasta k 2 > n 4. retornar los números no marcados

7 CRIBA DE EJEMPLO ERATÓSTENES ALGORITMO PARALELO 3.1 marcar los múltiplos de k entre k 2 y n para todo j tal que k 2 j n hacer si j mod k = 0 entonces marcar j (no es primo) fin si fin for 3.2 encontrar el menor número no marcado > k Min-reduction (para encontrar el menor número no marcado > k) Broadcast (para comunicar el resultado a todos los procesos)

8 CRIBA CRIBA DE ERATÓSTENES de ERATÓSTENES PARALELA ENFOQUE BASADO EN PARALELA PARALELISMO DE CONTROL (1) Dos tipos de procesos: Tipo 1 Hallan números primos p. Tipo 2 Eliminan múltiplos mayores a p 2. Problemas del enfoque: Repetición de cálculos: varios procesos podrían procesar el mismo candidato a número primo, o eliminar el mismo número compuesto simultáneamente. Sincronización y comunicación puede introducir tiempos ociosos (tiempo de procesos Tipo1 es menor a tiempos de procesos Tipo2). Asignación de recursos de cómputo debe tener en cuenta la anterior observación.

9 CRIBA DE ERATÓSTENES PARALELA CRIBA de ERATÓSTENES PARALELA ENFOQUE BASADO EN PARALELISMO DE CONTROL (2) Múltiples procesos idénticos iteran el proceso de dos pasos (hallar siguiente primo p y eliminar sus múltiplos mayores a p 2 ). Problemas del enfoque: Repetición de cálculos: varios procesos podrían procesar el mismo candidato a número primo o eliminar el mismo número compuesto simultáneamente. Comunicaciones son importantes para evitar repetición de cálculos. n Sean 1, 2,, K los primos menores a, el tiempo de eliminación de números compuestos para un proceso (secuencial) es: K i1 ( n 1). i i 2

10 CRIBA DE ERATÓSTENES PARALELA ENFOQUE BASADO EN PARALELISMO DE DATOS Cada proceso es responsable de un segmento del vector [1 n], ejecutando el mismo algoritmo sobre diferentes conjuntos de datos. Problemas del enfoque: La partición y asignación de datos son cruciales para evitar los tiempos ociosos de procesos. El modelo de memoria compartida es simple de analizar, el de memoria distribuida es más complejo: la comunicación pasa a tener un rol muy importante. Como consecuencia de demoras en comunicaciones puede haber repetición de cálculos. Una técnica de balance de cargas dinámico puede ser muy apropiada.

11 CRIBA DE ERATÓSTENES PARALELA Deben evaluarse las diferentes alternativas: Tratando de minimizar cómputos redundantes. Considerando que la partición y asignación de datos pueden ser útiles para evitar tiempos ociosos que afecten el desempeño. Teniendo en cuenta que la sincronización y las comunicaciones pueden tener un efecto importante en el desempeño del algoritmo. Contemplando la simplicidad de incorporar mecanismos de tolerancias a fallos. Deben tenerse en cuenta las características de la plataforma de ejecución. Asimismo debe considerarse el escenario de ejecución (dedicado o compartido).