:Arquitecturas Paralela basada en clusters.

Transcripción

1 Computación de altas prestaciones: Arquitecturas basadas en clusters Sesión n 1 :Arquitecturas Paralela basada en clusters. Jose Luis Bosque 1 Introducción Computación de altas prestaciones: resolver problemas muy costosos computacionalmente minimizando el tiempo de respuesta. Para hacer algo más rápidamente se puede: Trabajar más duro => mejoras en la tecnología. Trabajar más inteligentemente => optimización de los algoritmos. Buscar ayuda => procesamiento paralelo. Parallelism is the wave of the future and always will be. Jose Luis Bosque 2 1

2 Introducción La computación paralela es un método por el que se dividen grandes problemas en componentes más pequeños, llamados tareas o procesos, que pueden resolverse en paralelo. Esta solución surge como una respuesta de la arquitectura de computadores a las crecientes demandas de potencia de cómputo de los usuarios. Tienen una influencia clave el bajo coste de los equipos y el gran desarrollo tecnológico (Ley de Moore). Jose Luis Bosque 3 Introducción La alternativa a las MPP es la computación distribuida que se basa en utilizar un conjunto de computadores conectados mediante una red de comunicación que trabajan de forma conjunta para resolver un problema común. En estos casos la unión de un gran número de nodos de cómputo mediante redes de altas prestaciones pueden lograr una potencia de cómputo similar a un MPP, pero con un coste muy inferior. Arquitectura muy adecuada para pequeñas empresas y centros de investigación. Surge de forma natural en muchas empresas y centros de investigación. Jose Luis Bosque 4 2

3 Esquemas de clasificación n de computadores Clasificación de Flynn para arquitecturas paralelas: se basa en el análisis del flujo de instrucciones y del flujo de datos: SISD: arquitectura Von Neuman. SIMD: Existe una única unidad de control que busca, decodifica y entrega una sola instrucción a un conjunto de unidades de proceso: Arquitecturas vectoriales. MISD: un solo flujo de datos sobre el que operan varias unidades funcionales. No hay implementaciones. MIMD: varios procesadores trabajando de forma independiente sobre distintos conjuntos de instrucciones y/o datos. Jose Luis Bosque 5 Esquemas de clasificación n de computadores Clasificación de arquitecturas MIMD [Johnson88]: GMSV: Global memory / Shared variables. Arquitecturas de memoria compartida o SMP. GMMP: Global memory / Message passing. No existen implementaciones. DMSV: Distributed Memory / Shared variables Arquitecturas de memoria virtual-compartida. NUMA y CC- NUMA. Altix 3000, Origin DMMP: Distributed memory / Message passing Clusters. Jose Luis Bosque 6 3

4 Esquemas de clasificación n de computadores Jose Luis Bosque 7 Esquemas de clasificación de clusters Jose Luis Bosque 8 4

5 Esquemas de clasificación de clusters Los clusters se pueden clasificar atendiendo a diversos factores: Según la aplicación. Clusters de alto rendimiento: diseñados para la implementación de aplicaciones de alto coste computacional. Clusters de alta fiabilidad: diseñado para aplicaciones críticas, en las que lo importante es la disponibilidad más que el rendimiento. Según el propietario de los nodos: Clusters dedicados: las aplicaciones paralelas se ejecutan en todo el sistema, sin ningún tipo de restricción. Clusters no dedicados: cada nodo tiene un propietario y las aplicaciones paralelas se ejecutan en el tiempo en que los nodos están ociosos (ciclos libres). Configuración del cluster: Clusters homogéneos: la arquitectura (hardware y software) de todos los nodos es la misma. Clusters heterogéneos: los nodos tienen diferentes características, en cuanto a hardware o software. Jose Luis Bosque 9 Definición de Cluster Un cluster es un tipo de computador paralelo o distribuido que consiste en un conjunto de computadores independientes pero interconectados entre sí que trabajan conjuntamente como un único recurso para resolver un problema común. Multiprocesador casero : utiliza componentes comerciales, baratos y potentes (COTS) Hub IBM Compatible IBM Compatible Workstation Ethernet Workstation Workstation IBM Compatible Workstation Jose Luis Bosque 10 5

6 Ejemplos de Clusters Jose Luis Bosque 11 Ejemplos de Clusters Jose Luis Bosque 12 6

7 Ejemplos de Clusters Jose Luis Bosque 13 Ejemplos de Clusters Jose Luis Bosque 14 7

8 Ejemplos de Clusters Jose Luis Bosque 15 Jose Luis Bosque 16 8

9 Jose Luis Bosque 17 Jose Luis Bosque 18 9

13 Motivos de Aparición de los clusters Importantes avances en la tecnología y arquitectura de los microprocesadores han llevado a una gran evolución de sus prestaciones: ley de Moore. Jose Luis Bosque 25 Motivos de Aparición de los clusters Protocolos y redes de comunicación estándares de alto rendimiento: Ethernet Fast Gigabit Infiniband Myrinet Ethernet Ethernet Ancho de Banda (pico) 10 Mbps 100 Mbps 1000 Mbps 2000, 8000, a 2000 Mbps Nº nodos Topología Medio de Transmisión Bus/ Bus/ Estrella Estrella Estrella estrella estrella Cobre cobre Cobre/fibra Cobre/fibra Cobre/fibra Jose Luis Bosque 26 13

14 Motivos de Aparición de los clusters Herramientas estándar para la gestión de clusters y software de imagen de sistema único: Mosix, XMPI, PBS, OSCAR, etc... Jose Luis Bosque 27 Jose Luis Bosque 28 14

15 Ventajas de los Clusters Relación coste/prestaciones. Flexibilidad. Disponibilidad. Escalabilidad. Crecimiento por incrementos Incorporación de tecnología punta. Aprovecha ciclos perdidos Heterogeneidad. Jose Luis Bosque 29 Problemas de los Clusters Existen todavía varios problemas propios de estos sistemas: Software. Problemas de administración y gestión. Memoria físicamente distribuida => utilización menos eficiente. Varias copias del sistema operativo. La red es el cuello de botella del sistema. Jose Luis Bosque 30 15

16 Arquitectura de un cluster Un cluster está formado por nodos de cómputo y una red de comunicación. Un nodo del cluster puede ser un ordenador convencional o un sistema multiproceso, con su propia memoria, sistema de I/O y su propio sistema operativo. Los nodos pueden estar incluidos en una sola cabina (rack) o físicamente separados y conectados por una LAN. Jose Luis Bosque 31 Arquitectura de un cluster Los componentes que forman un sistema de este tipo son los siguientes: Un conjunto de ordenadores de altas prestaciones. Sistemas operativos basados en microkernel o estratificados Redes de interconexión de altas prestaciones (Myrinet, Gigabit, Infiniband). Tarjetas de conexión a red de alta velocidad. Protocolos y servicios de comunicación de alta velocidad. Middleware, compuesto de dos subniveles de software: La imagen de sistema única (SSI: Single System Image) que ofrece a los usuarios un acceso unificados todos los recursos del sistema. Disponibilidad del sistema que permite servicios como puntos de chequeo, recuperación de fallos, soporte para tolerancia a fallos. Entornos y herramientas de programación paralela, compiladores paralelos, Java, PVM, MPI. Jose Luis Bosque 32 16

17 Arquitectura de un cluster Jose Luis Bosque 33 Middleware La imagen de sistema único proporciona al usuario una visión unificada del cluster como un único recurso o sistema de cómputo. Esta imagen está soportada por el nivel midlleware que está entre el sistema operativo y las aplicaciones de usuario y tiene básicamente dos subsistemas: Infraestructura de imagen de sistema único: que junto al sistema operativo está presenta en todos los nodos y proporciona un acceso unificado a todos los recursos del sistema. Infraestructura de disponibilidad del sistema: que posibilita servicios propios del cluster como puntos de chequeo, recuperación automática de fallos y soporte para tolerancia a fallos. Jose Luis Bosque 34 17

18 Middleware Objetivos del middleware: Presentar una completa transparencia al usuario de forma que este no tenga que preocuparse de detalles debajo nivel en la implementación, ni de cómo gestionar el sistema para optimizar su rendimiento. Por otro lado, la escalabilidad del sistema, ya que los clusters pueden ampliarse fácilmente añadiendo nuevos nodos, las aplicaciones deben ser capaces de ejecutarse de forma eficiente en un amplio rango de tamaños de máquinas. Por último, también es importante la disponibilidad del sistema para soportar las aplicaciones de los usuarios, por medio de técnicas de tolerancia a fallos y recuperación automática sin afectar a las aplicaciones de los usuarios. Jose Luis Bosque 35 Diseño o de un Cluster Consideraciones de diseño: Maximizar relación precio/prestaciones. Asegurar la disponibilidad. Restringido a un presupuesto. Un cluster está formado por elementos principales: Nodos de cómputo. Red de comunicación. Jose Luis Bosque 36 18

19 Diseño o de un Cluster El requisito fundamental para el diseño de un cluster es: Diseñar un supercomputador con un coste reducido. Metodología abajo-arriba de diseño: Requisitos de rendimiento. Hardware Sistema operativo Middleware Aplicaciones: incluyendo la programación. Jose Luis Bosque 37 Diseño o de un Cluster Jose Luis Bosque 38 19

20 Requisitos de rendimiento Problemas para obtener el máximo rendimiento de un computador paralelo: Hardware: procesadores inactivos debido a conflictos en acceso a memoria y comunicaciones. Sistema operativo: problemas de ineficiencia en planificadores, sistemas de ficheros y asignación de memoria. Middleware: distribución y coordinación de tareas ineficiente, latencias de comunicación altas. Aplicaciones: algoritmos e implementaciones ineficientes que no explotan el paralelismo inherente de los problemas. Jose Luis Bosque 39 Diseño o de un Cluster High Speed Network compute compute node node compute compute node node File Server node External Network Front-end Jose Luis Bosque 40 20

21 Diseño o de un Cluster High Speed Network compute compute node node compute compute node node File Server node Service Network gateway node Front-end External Network Jose Luis Bosque 41 Diseño o de un Cluster Nodos de cómputo: Procesador. Número de procesadores por nodo. Prestaciones del procesador. Memoria Cache. Memoria. Capacidad memoria por nodo. Velocidad del bus de memoria. Cantidad de memoria cache de nivel 2. Disco. Capacidad de almacenamiento necesaria. Velocidad de acceso. Posibilidad de utilizar RAID de discos. Jose Luis Bosque 42 21

22 Diseño o de un Cluster Red de Comunicaciones (I): Prestaciones: Ancho de banda. Latencia. Sobrecarga emisor y receptor. Medio de Transmisión: Cobre Fibra óptica Elementos de Interconexión: Concentradores. Conmutadores. Jose Luis Bosque 43 Diseño o de un Cluster Red de Comunicaciones (II): Topología: Número de elementos de interconexión. Forma de interconexión. Tarjeta de red: Conexión con el nodo. Capacidad de proceso. Utilización de Estándares: Bajo coste. Estabilidad. Independencia de fabricantes. Jose Luis Bosque 44 22

23 Diseño o de un Cluster Jose Luis Bosque 45 Diseño de un Cluster Jose Luis Bosque 46 23

24 Diseño o de un Cluster Jose Luis Bosque 47 Diseño o de un Cluster Jose Luis Bosque 48 24

25 Diseño o de un Cluster Jose Luis Bosque 49 Aplicaciones más m s comunes Aplicaciones de Internet. El paralelismo consiste en millones de tareas completamente independientes. Disponibilidad. Aplicaciones de base de datos. Debido a su gran relación precio/prestaciones y escalabilidad. Cálculo científico. Permite a pequeños grupos disponer de multicomputadores. Jose Luis Bosque 50 25

26 Aplicaciones más m s comunes Jose Luis Bosque 51 Aplicaciones más m s comunes Jose Luis Bosque 52 26

27 Aplicaciones más m s comunes Jose Luis Bosque 53 Ejemplo 1: Google Jose Luis Bosque 54 27

28 Ejemplo 1: Google Objetivos de diseño: Escalabilidad. Alta disponibilidad. Asegurar tiempo de respuesta máximo. Gran ancho de banda. Características: 6000 procesadores discos => 1 petabyte. Replicado en 3 puntos geográficos distintos. Jose Luis Bosque 55 Ejemplo 1: Google Jose Luis Bosque 56 28

29 Ejemplo 1: Google Nodos de cómputo: Cada Rack tiene 80 Pcs. Procesador modesto. 256 MB de SDRAM. 2 discos IDE. Sistema operativo Linux. Cada 3 meses se actualiza algún componente: procesador, memoria, discos. Jose Luis Bosque 57 Ejemplo 1: Google Red de comunicaciones: Dos enlaces a Internet de 2488 Mbps. Cada rack tiene 4 enlaces de 1 Gbps. Utiliza cables de cobre Categoría5. Coste: 4,5 a 6 Millones de dólares. Disponibilidad: Software: 20 nodos deben ser rebotados al día. 2-3% de PCs reemplazados por año. Jose Luis Bosque 58 29