TEMA 4 PROCESAMIENTO PARALELO

Transcripción

1 TEMA 4 PROCESAMIENTO PARALELO Tipos de plataformas de computación paralela Organización lógica Organización física Sistemas de memoria compartida Sistemas de memoria distribuida

2 Tipos de plataformas de computación paralela Organización lógica. Visión que tiene el programador La estructura de control Maestro/Esclavo SPMD Modelo de comunicación entre tareas Espacio de direcciones único y compartido (Memoria compartida) El paso de mensajes Organización física. Según la forma de acceso en un sistema multiprocesador a la región de memoria común a todos los procesadores Sistema de memoria compartido: un único sistema de memoria es compartido por todos los procesadores Sistema de memoria distribuida: cada procesador tiene su propia memoria física, inaccesible por el resto.

3 Sistema de memoria distribuida Cada procesador dispone de su propia memoria, independiente del resto y solo accesible por su procesador La comunicación se realiza por paso de mensajes También conocida como arquitectura de memoria privada o arquitectura de paso de mensajes

4 Sistema de memoria distribuida El paso de mensajes es la estrategia dominante en los sistemas con gran número de procesadores (mayor que 100) y en programas que pueden dividirse en subprogramas independientes Se intentará minimizar el número de mensajes y maximizar su tamaño

5 Sistema de memoria distribuida Procesadores masivamente paralelos (MPPs- Massively Parallel Processor) Un único computador con múltiples CPU s comunicadas por un bus de datos Cluster (múltiples computadores cada uno con su propio procesador, enlazados por una red de interconexión) De clase Beowulf (cada computador del cluster está exclusivamente dedicado al cluster) NOW (cada computador del cluster no está exclusivamente dedicado al cluster)

6 Un sistema Beowulf Conjunto de nodos minimalistas (placa base con cpu, memoria y dispositivo comunicación) conectados por un medio de comunicación barato Cada nodo de un Beowulf se dedica exclusivamente a procesos del supercomputador. Conexiones placa a placa por cable RJ-45 cruzado Se evita el hardware innecesario a cambio de una fuerte dependencia entre el software y la topología de la red

7 CLUSTERS Presentan distintas topologías en función de las conexiones punto a punto que se establezcan entre sus procesadores redes lineales, de anillo o en estrella hipercubos La implementación más natural y habitual de los clusters es como parte de una red de área local, en la que las máquinas que forman el cluster se conectan a una red de alta velocidad y la máquina que actúa como servidor se conecta además a la red exterior. Se utilizan como dispositivos de interconexión los switches (la comunicación entre procesadores dispone del 100% del ancho de banda del canal)

8 CLUSTERS Las exigencias de cálculo de las aplicaciones comerciales y científicas crecen día a día. Podemos aumentar la capacidad de la unidad de procesamiento aumentar la memoria o sustituir el procesador por otro de tecnología superior y/o de mayor velocidad de reloj hacer que varias unidades colaboren para la resolución conjunta de una tarea procesamiento en paralelo tecnología del pipelining procesamiento superescalar procesadores vectoriales paralelismo sobre un registro supercomputadores vectoriales y procesadores masivamente paralelos, MPPs clusters (alternativa de menor coste ampliamente utilizada y consolidada)

9 VENTAJAS DE LOS CLUSTERS Se pueden construir con un esfuerzo relativamente moderado. Son sistemas de bajo coste. Utilizan hardware convencional y accesible comunicación comercial Myrinet o Fast Ethernet) (sistema de Software de libre distribución Linux, PVM Machine) o MPI (Message Passing Interface) (Parallel Virtual Son sistemas escalables Cada máquina de un cluster puede ser un sistema completo utilizable o aprovechable para otros propósitos Es posible diseñar el cluster de tal forma que si un nodo falla, el resto continúe trabajando Que los programas escritos para un cluster funcionarán en cualquier otro con independencia del tipo de procesador de cada nodo sin más que recompilar el código

10 DESVENTAJAS DE LOS CLUSTERS Las redes ordinarias no están diseñadas para el procesamiento paralelo. La latencia de red es alta y el ancho de banda relativamente bajo En los sistemas operativos monoprocesador existe muy poco software para tratar un cluster como un único sistema

11 Cuándo y cómo utilizar un cluster? La razón de ser del procesamiento paralelo es acelerar la resolución de un problema. Con n procesadores es posible resolver el problema n veces más rápido que haciendo uso de uno sólo (salvo por el mínimo retraso que supone el reparto de trabajo inicial y la recolección de datos final), La aceleración superlineal: el programa se ejecuta aún más rápido que en régimen lineal Deceleración: encuentran los problemas que se paralelizan muy mal, es decir, necesitan estar continuamente compartiendo datos entre procesadores para obtener el resultado final. El tiempo de ejecución aumenta a medida que aumenta el número de procesadores Típica: cada procesador conozca, tras cada paso, el estado del sistema completo, con lo que todos los datos deben propagarse a todos los computadores (interacción gravitatoria o la culombiana)

12 PARALELIZAR APLICACIONES PARA USO EN CLUSTER Adaptar una aplicación propia de cálculo intensivo para sacar provecho de un cluster, y para ello no hay más remedio que recurrir a su paralelización Programar explícitamente el paso de mensajes Usando sockets o el dispositivo de red directamente Las bibliotecas de paso de mensajes PVM (Parallel Virtual Machine, máquina paralela virtual) y MPI (Message Passing Interface, interfaz para el paso de mensajes) Las bibliotecas de función colectiva AFAPI (Aggregate Function APZ, API de funciones colectivas). Utilizar herramientas que lo hagan Herramientas de paralelización automática (muy caros y, lo que es peor, funcionan realmente mal) Lenguajes de programación paralelos Nuevos lenguajes (Ora3 y Parallaxis4) Desarrollo de extensiones paralelas para lenguajes como Fortran o C» HPF (High Performance Fortran, Fortran de alto rendimiento).

13 RENDIMIENTO Y COSTES EN SISTEMAS PARALELOS Factores que influyen en la velocidad computacional Granularidad de los procesos. Factor de aceleración (speedup). Ley de Amdahl. Eficiencia. Coste. Escalabilidad. Balance de carga.

14 Granularidad de los procesos. Lo mucho que se ha dividido el problema en pedazos Granularidad gruesa: Gran número de instrucciones secuenciales que no necesitan de la comunicación con otros procesos para ser ejecutadas. Granularidad fina: Dispone de pocas instrucciones secuenciales Se trata de maximizar esa razón manteniendo el paralelismo suficiente. tiempo de computación tiempo de comunicaci ón t t comp com

15 Factor de aceleración (speedup). Medida del rendimiento relativo entre un sistema multiprocesador y un sistema con un único procesador ts S( M ) t La aceleración máxima absoluta con M procesadores S( M ) t t s s M p M

16 Factor de aceleración (speedup). Factores que aparecen como sobrecarga Existencia de partes secuenciales que no se pueden dividir y las tiene que ejecutar un único procesador Cálculos adicionales que aparecen en el programa paralelo y no en el secuencial Tiempo de comunicación para enviar mensajes

17 Ley de Amdahl Determina una cota inferior para el tiempo de ejecución, aun cuando no se utilicen al máximo las técnicas de paralelismo (no considera las sobrecargas) M: nº de procesadores f: fracción de código no paralelizable t p ( M ) f t s 1 f M t s

18 Ley de Amdahl El factor de aceleración viene dado S( M ) f t s t s M 1 f t 1 M 1 f M s lim S( M ) 1 f Según Amdahl la razón para aumentar el número de procesadores debe ser para resolver problemas de tamaño mayor y no para resolver más rápidamente un problema de tamaño fijo M

19 Eficiencia Normalización de la aceleración entre el número de procesadores E S( M ) M x100% t P ts M x100% 1 1 ( M 1) x100% Define la fracción de tiempo que se utilizan los procesadores durante la computación, es decir, da una medida de lo adecuadamente que han sido utilizados los procesadores f

20 Coste C= tiempo de ejecución x Número de procesadores utilizados C ts S M t s M E

21 Escalabilidad Indica un diseño hardware que permite ampliar su tamaño para obtener una mejora en el rendimiento. Un sistema es escalable si el rendimiento del mismo se incrementa linealmente con relación al número de procesadores usados para una cierta aplicación. Parámetros que afectan a la escalabilidad Tamaño del sistema Frecuencia del reloj Tamaño del problema Tiempo de CPU Capacidad de memoria Pérdidas (overhead) de comunicación Coste del sistema

22 Balance de carga Consiste en distribuir de una forma equitativa la carga computacional entre todos los procesadores disponibles y con ello conseguir la máxima velocidad de ejecución

23 Balance de carga Se puede hacer Balance de carga estático (mapeado del problema o planificación del problema) Difícil estimar de forma precisa el tiempo de ejecución Difícil incorporar la variable retardo de comunicación Algoritmos con número indeterminado de pasos computacionales (algoritmo de búsqueda) Balance de carga dinámico (reparto de tareas durante la ejecución del programa) Resulta en una alternativa mucho más eficiente que el balance de carga estático Balance de carga dinámico centralizado Balance de carga dinámico distribuido

24 Balance de carga Balance de carga dinámico (reparto de tareas durante la ejecución del programa) Balance de carga dinámico centralizado El proceso maestro reparte las tareas, al acabarlas se les dará más. Programación por demanda o bolsa de trabajo. Es mejor repartir primero las tareas de mayor carga computacional. Balance de carga dinámico distribuido

25 Balance de carga Balance de carga dinámico (reparto de tareas durante la ejecución del programa) Balance de carga dinámico centralizado Balance de carga dinámico distribuido Un grupo de maestros controla a un grupo de esclavos.

26 Costes de la comunicación mediante pasos de mensajes Tiempo de inicialización t s Tiempo en preparar el mensaje, tiempo ejecución algoritmo enrutamiento, tiempo de conexión entre el emisor y el enrutador Tiempo de salto t h Tiempo que tarda la cabecera de un mensaje en viajar entre dos nodos directamente conectados en la red Tiempo de transferencia por palabra t w Inverso del ancho de banda (inverso de cantidad de palabras por segundo)

27 Costes de la comunicación mediante pasos de mensajes ALGORITMOS DE ENRUTAMIENTO Almacenamiento y reenvío (store-andforward) t mt t s w h l Hasta que no se ha recibido el mensaje y almacenado no se envía. t com t Corte y continuación (cut-through) t com t s s lt mlt h w mt w

28 examen septiembre 2012

29 COSTES DE LA COMUNICACIÓN MEDIANTE MEMORIA COMPARTIDA El cálculo es mucho más complejo que cuando se usa paso de mensajes por: El programador tiene control reducido sobre la localización de los objetos en memoria Si el tamaño de la caché es mayor que el tamaño de los datos se produce hiperpaginación La sobrecarga por operaciones de coherencia de caché (invalidad y actualizar) es difícil de cuantificar La latencia de acceso a las diferentes palabras de una caché puede variar La lectura anticipada de palabras (depende del compilador y la disponibilidad de recursos) El fenómeno de false-sharing (diferentes procesadores acceden a distintos datos almacenados en el mismo bloque de caché) puede incluir una sobrecarga La competición por los recursos (depende de la ejecución del programa)