Taller de Sistemas Computacionales. Introducción. Mauricio Solar. HPC en el día a día. HPC en el día a día. HPC en el día a día ÍNDICE

Transcripción

1 ÍNDICE Taller de Sistemas Computacionales Introducción Mauricio Solar 2010 HPC? Computación Paralela y Distribuida Speedup y Ley de Amdahl Computadores Paralelos (Mem. Compartida, Mem. Distribuida) Clasificación de Flynn (SISD, SIMD, MIMD) Clusters Programación Paralela Balance de Carga HPC: High Performance Computing HPC en el día a día Definición de HPC: Por lo menos 10 veces más poder computacional que el disponible en un computador de escritorio Una definición que cambia con el tiempo. El rendimiento de HPC se incrementa por un factor de 10 cada 3 años. Los HPC de ayer son los computadores poderosos de hoy y las estaciones de trabajo de mañana. Una empresa se adjudica un gran contrato de distribución de un supermercado a nivel nacional. Cómo planificaría las rutas? Si se tiene una enorme BD con detalles de clientes. Cómo orienta la campaña de marketing para un producto nuevo? Si tiene que diseñar un nuevo barco/avión/auto. Cómo se prueba sin hacer un prototipo? Cómo verifica potenciales fallas fatales? Las compañías aéreas eligen las rutas de sus viajes dependiendo del tiempo. Cómo se puede predecir el tiempo? HPC en el día a día HPC en el día a día Una empresa se adjudica un gran contrato de distribución de un supermercado a nivel nacional. Cómo planificaría las rutas? Si se tiene una enorme BD con detalles de clientes. Cómo orienta la campaña de marketing para un producto nuevo? Si tiene que diseñar un nuevo barco/avión/auto. Cómo se prueba sin hacer un prototipo? Cómo verifica potenciales fallas fatales? Las compañías aéreas eligen las rutas de sus viajes dependiendo del tiempo. Cómo se puede predecir el tiempo? Posible Respuesta: Modelando o simulando con HPC Porqué usar simulación? Cuando el problema es demasiado: Complejo Grande / chico Caro Peligroso para hacerlo de otra forma. 1

2 Demasiado complejo Demasiado grande Modelamiento de la combustión Muchas variables Proceso muy rápido Muy grande La atmósfera se modela dividiéndola en celdas 3D. El cálculo de cada celda se repite muchas veces para modelar el paso del tiempo. Ejemplo: Toda la atmósfera en celdas de tamaño de 1milla 1milla 1milla a una altura de 10 millas (10 celdas de alto) son celdas. Si cada cálculo requiere 200 Flops. Un paso del tiempo, requiere Flops. Predecir próximos 7 días con un intervalo de 1min, un computador de 1 GFlops, tomaría 10 6 sec (sobre los 10 días). Obtener cálculo en 5 min, requiere un computador con 3.4 TFlops. Demasiado grande Demasiado chico Astrofísica: Modelando movimiento de cuerpos astronómicos Cada cuerpo es atraído hacia cada uno de los otros cuerpos por fuerzas gravitacionales. El movimiento de cada cuerpo se predice calculando la fuerza total sobre cada cuerpo. Con N cuerpos, se debe calcular N-1 fuerzas, o aproximadamente N 2 cálculos (Nlog 2 N para un algoritmo aproximado eficiente). Después de determinar las nuevas posiciones de los cuerpos, se repite el cálculo. Una galaxia puede contener, estrellas. Incluso, si cada cálculo se pudiese computar en 1 µsec (ultra optimista), una única iteración tomaría 10 9 años usando un algoritmo N 2 y casi un año para una única iteración usando un algoritmo aproximado eficiente Nlog 2 N. Diseño de drogas Demasiado caro Demasiado peligroso Producción y exploración de Petróleo Tolerancia a fallas en aeronáutica Procesamiento de Datos sísmicos (gran volumen y caros de obtener) Ayuda a identificar potenciales reservas de hidrocarbono Objetivo: Mejorar la precisión de encontrar esas reservas. Reducir la cantidad de pruebas de taladro (1/6 de las pruebas encuentra petróleo a US$20 cada una). 2

3 Qué esperamos? HPC: máquina del tiempo Desde hace muchos años ha dominado el modelo esperar : Las máquinas de escritorio han ido mejorando tan rápidamente que todo lo que hay que hacer es esperar hasta el modelo adecuado el próximo año (o década) Permite a algunos hacer ahora lo que el resto hará mas tarde : Hacer simulaciones ahora en vez de esperar 10 años Hacer simulaciones ciento de veces mas rápido Etc. Todo puede usarse como ventaja competitiva posibilidades sólo limitadas por la imaginación. HPC- solución de alto costo? HPC - resumen Computación Distribuida (CD): Existe una infraestructura ampliamente difundida de sistemas cliente-servidor que puede usarse como recursos de CD. Estos recursos están típicamente subutilizados (< 20%): Sólo se usan desde 9AM-17PM Usos livianos: word, mails, browsers Estaciones de trabajo mas poderosas que lo necesario: Las empresas tienen un gran recurso computacional pero el código más complejo/grande que pueden correr no requiere mas que un computador de escritorio. El Poder de los Computadores en Red: Representan un equipamiento significativo para HPC Los sectores de la ciencia, industria y negocios tienen un potencial significativo para aplicaciones HPC. El uso de HPC puede cambiar la forma de operar de estos sectores. El apetito por más poder computacional de los usuarios parece insaciable!! Cómo satisfacer a bajo costo esta demanda? Computación Paralela Computación Paralela Uso de más de un computador, o un computador con más de un procesador, para resolver un problema Motivos: Usualmente computación más rápida una idea muy simple n computadores operando simultáneamente pueden conseguir un resultado n veces más rápido pero se verá que no es n veces más rápido por diversas razones. Background Los computadores paralelos con más de un procesador y su programación programación paralela han estado presentes desde hace más de 50 años!! 3

4 Notación p = número de procesadores o procesos n = número de datos (entrada) S(p) = Factor Speedup Tiempo de ejecución usando un único procesador Tiempo de ejecución usando un multiprocesador con p procesadores donde T s es el tiempo de ejecución en un único procesador y T p es el tiempo de ejecución en un multiprocesador S(p) entrega el incremento en la velocidad usando un multiprocesador S(p) = T s Eficiencia = S p T p p Costo = p T p Se debe usar el mejor algoritmo secuencial. El algoritmo en la implementación paralela puede (y usualmente es) diferente. Factor Speedup Puede usarse en términos de pasos computacionales: S(p) = Número de pasos computacionales usando un único procesador Número de pasos computacionales paralelo con p procesadores Puede también extenderse la complejidad en tiempo a computaciones paralelas. Máximo Speedup Máximo speedup es usualmente p con p procesadores (Lineal). Es posible obtener speedup superlineal (mayor que p), pero usualmente existe una razón bien específica, tal como: Memoria extra en el sistema multiprocesador Algoritmo no-determinístico Ley de Amdahl máximo speedup Ley de Amdahl El factor speedup está dado por: S(p) = t s ft s +(1-f) t s /p = p 1+(p-1) f Conocida como Ley de Amdahl. 4

5 Ley de Amdahl Ley de Amdahl f = fracción del problema que es inherentemente secuencial (1 f) = fracción que es paralela Tiempo ParaleloT p : Speedup con p procesadores: T p = f + ( 1 f ) S p p 1 = 1 f f + p Límite superior del speedup (p = ) 1 S p = 1 f f + Ejemplo: p f = 2% S = 1 / 0.02 = 50 Converge a 0 S 1 = f Speedup v/s Número de procesadores Speedup serie/paralelo Serial Paralelo Incluso con un número infinito de procesadores, el máximo speedup está limitado a 1/f. Ejemplo: Con sólo un 5% de computación serial, el máximo speedup es 20, independiente del número de procesadores. Procesadores Speedup Speedup serie/paralelo Speedup superlineal - Búsqueda Buscando en cada subespacio secuencialmente: Serial Paralelo Procesadores Speedup 5

6 Speedup superlineal - Búsqueda Speedup superlineal - Búsqueda Buscando en los subespacios en paralelo: El speedup está dado por: S(p) = (x t s/p)+ t t Speedup superlineal - Búsqueda COMPUTACIÓN PARALELA Y DISTRIBUIDA Peor caso en búsqueda secuencial es cuando la solución se encuentra en el último subespacio. Entonces la versión paralela ofrece el mayor beneficio, i.e.: S(p) = ((p-1)/p) t s+ t t La peor situación para la versión paralela, es que la solución se encuentre en el primer subespacio de búsqueda, i.e.: S(p) = t t = 1 cuando tiende a cero Speedup: va a depender de cual es el subespacio en el cual se encuentra la solución, pero puede ser extremadamente grande! Varios procesadores interconectados trabajando concurrentemente P4 P5 P3 RED DE INTERCONEXIÓN P2 P1.... Pn CONNECTION MACHINE (CM) INTERNET: Conecta todos los computadores del mundo TIPOS DE FRAMEWORKS DE MULTIPROCESAMIENTO PARALELO DISTRIBUIDO ASPECTOS TECNICOS COMPUTADORES PARALELOS (USUALMENTE) TRABAJAN EN SINCRONÍA, COMPARTEN MEMORIA EN FORMA EXTENSA Y POSEEN MECANISMO DE COMUNICACIÓN MUY RÁPIDO ENTRE ELLOS. COMPUTADORES DISTRIBUIDOS SON MAS INDEPENDIENTES, LA COMUNICACIÓN ES MENOS FRECUENTE Y MENOS SÍNCRONA, Y LA COOPERACIÓN ES LIMITADA. PROPÓSITOS COMPUTADORES PARALELOS COPERARAN PARA RESOLVER MAS EFICIENTEMENTE (POSIBLEMENTE) PROBLEMAS MAS DIFICILES COMPUTADORES DISTRIBUIDOS TIENEN OBJETIVOS INDIVIDUALES Y ACTIVIDADES PRIVADAS. A VECES REQUIERE COMUNICACIÓN CON OTROS. (E.G. OPERACIONES DE BASE DE DATOS DISTRIBUIDOS). COMPUTADORES PARALELOS: COOPERACIÓN EN UN SENTIDO POSITIVO COMPUTADORES DISTRIBUIDOS: COOPERACIÓN EN UN SENTIDO NEGATIVO,, SÓLO CUANDO ES NECESARIO PARA SISTEMAS PARALELOS ESTAMOS INTERESADOS EN RESOLVER CUALQUIER PROBLEMA EN PARALELO PARA SISTEMAS DISTRIBUIDOS ESTAMOS INTERESADOS EN RESOLVER EN PARALELO SÓLO PROBLEMAS PARTICULARES, TÍPICOS EJEMPLOS SON: SERVICIOS DE COMUNICACIÓN RUTEO DIFUSIÓN (BROADCASTING) MANTENCIÓN DE LA ESTRUCTURA DE CONTROL CONSTRUCCIÓN DE ÁRBOLES DE COBERTURA ACTUALIZACIÓN TOPOLÓGICA ELECCIÓN DE LIDER ACTIVIDADES DE CONTROL DE RECURSOS BALANCEAMIENTO DE CARGA ADMINISTRACIÓN DE DIRECTORIOS GLOBALES 6

7 Tipos de Computadores Paralelos Principalmente de dos tipos: Multiprocesador con Memoria Compartida (MC) Multicomputador con Memoria Distribuida Computadores convencionales Consiste de un procesador ejecutando un programa almacenado en una memoria (principal): Instrucciones hacia el procesador Datos (desde/hacia) el procesador Cada posición de memoria principal se localiza en su dirección, que comienza desde cero hasta 2 b -1 donde b es la cantidad de bits en la dirección. Memoria Compartida (MC) Una forma natural de extender el modelo de procesador único tener múltiples procesadores conectados a múltiples módulos de memoria, tal que cada procesador pueda acceder a cualquier módulo de memoria llamada configuración de memoria compartida: Un espacio de memoria Memoria Compartida Una vista simplista de una pequeño multiprocesador con MC: Ejemplos: Pentium Dual Pentium Quad Memoria Compartida Multiprocesador Pentium Quad con MC: Multicomputadores con Paso de Mensajes Computadores conectados a través de una Red de Interconexión 7

8 Redes de Interconexión (RI) RI: Arreglo 2D (grilla) Con enlaces directos entre los computadores: Conexiones exhaustivas Grillas 2D y 3D Hipercubos ARREGLO CONECTADO EN GRILLA Enlace Procesador/Computador Uso de Switch: Crossbar Árboles Redes de Interconexión Multipasos grado = 4 (N) diámetro = 2N Existen también arreglos 3D usados en HPC (High Performance Computing) RI: Hipercubo 3D RI: Hipercubo 4D grado = 4 (log 2 N) grado = 4 (log 2 N) diámetro = diámetro = N = 2 3 PROCESADORES N = 2 4 PROCESADORES RI: Hipercubo 4D Switch: Crossbar grado = 4 (log 2 N) diámetro = N = 2 4 PROCESADORES Fueron populares en 1980 ya no. 8

9 Switch: Árbol Switch: Redes de Interconexión Multipasos Ejemplo: Red Omega 2 2 elementos de switch Redes de Interconexión: Enlaces Distancia Media Puertas/nodo Distancia Media Densidad de Número de Tolerancia a Fallas r (estructura de Normalizada Mensajes enlaces (fallas de enlaces) dn d enlaces) (L) (buses) d = 1 N 1 o N d proc s a distancia d puertas por bus r: diámetro Max(mindist n i, n j) buses) (P) (estructura de Red totalmente 1 N - 1 N N (N²- N) N - 1 interconectada Anillo (N+1)/4 2 (N+1)/2 (N+1)/4 N 2 (bidireccional) Ciclos 0.8 log 2N log 2 N D/4 3N 2 conectados en 2 Cubo Alpha k log 2 N+0.2 D(W - 1) D(W - 1)L 2L ND D(W - 1) - 1 k 0.3 to 0.5 D(W - 1) 2 Hyper 1.1 log 2N log 2 N L 2(N - 1) 3 árboles 2 MTS log 2 N log 2 N log 2 N Bus global único 1 N N N 1 N - 1 Memoria Compartida Distribuida Haciendo que la memoria principal de un grupo de computadores interconectados se vea como una memoria única con un espacio único de direcciones: Entonces se puede usar las técnicas de programación compartida. k log 2 N+0.2 W W log 2 N +0.2W W DW D 1 W - 1 Hipercubo con bus expandido k 0.3 to 0.5 k 0.3 to 0.5 Beta k log 2N+0.25 D(W- 1) D(W - 1)L L W D D(W - 1) - 1 k 0.30 to 0.37 Hipercubo 2(D+1) D 2 D D2 D-1 D Clasificación de Flynn Flynn (1966) creó una clasificación de computadores basada en el flujo de datos y de instrucciones: SISD: Single Instruction stream - Single Data stream En un computador con procesador único, se genera un flujo único de instrucciones desde el programa. Las instrucciones operan sobre un flujo único de datos. Clasificación de Flynn - MIMD MIMD: Multiple Instruction stream - Multiple Data stream En un sistema multiprocesador de propósito general -- cada procesador tiene un programa separado, y se genera un flujo de instrucciones para cada programa. Cada instrucción opera sobre diferentes datos. Los modelos de memoria compartida y de paso de mensajes pertenecen a esta clasificación. 9

10 Clasificación de Flynn - MIMD Clasificación de Flynn - SIMD MPMD: Multiple Program - Multiple Data Dentro de la clasificación MIMD, cada procesador tiene su propio programa. SIMD: Single Instruction stream - Multiple Data stream Un computador diseñado especialmente para ejecutar un flujo único de instrucciones de un programa único, pero operando sobre múltiples flujos de datos. Las instrucciones del programa son difundidas hacia mas de un procesador. Cada procesador ejecuta la misma instrucción sincrónicamente, pero usando datos diferentes. Desarrollado porque existe un número importante de aplicaciones que opera sobre arreglos de datos. Clasificación de Flynn - SIMD Clasificación de Flynn - SIMD SPMD: Single Program - Multiple Data Se escribe un programa fuente único y cada procesador ejecuta su copia personal del programa, aunque independientemente y no en forma síncrona. El programa fuente se puede construir de tal forma que parte del código es ejecutada por ciertos computadores y no otros dependiendo del identificador del computador. Computadores en Redes Plataforma Multicomputador: computadores en redes Una red de computadores se transformó en una alternativa muy atractiva a los supercomputadores supercaros y a los sistemas de computación paralela para HPC en los años 90 Algunos proyectos importantes: Proyecto de Berkeley NOW (Network of Workstations) Proyecto de la NASA Beowulf Ahora se usa el término cluster computing Clusters: ventajas claves Estaciones de trabajo de alto rendimiento y PCs disponibles a bajo costo. Últimos procesadores pueden ser fácilmente incorporados al sistema en la medida que estén disponibles. El software existente puede ser usado o modificado. 10

11 Clusters: Herramientas de Sw Clusters Beowulf Programación Paralela con Paso de Mensajes: Parallel Virtual Machine (PVM): desarrollado a finales de los 80 s. Se hizo muy popular. Message-Passing Interface (MPI): estándar definido en los 90s. Ambos proveen un conjunto de bibliotecas a nivel de usuario para intercambio de mensajes. Se usa con lenguajes de programación regulares (C, C++, ). Un grupo de computadores normales interconectados consiguen un alto rendimiento a bajo costo. Típicamente se usa interconexión normal -- Ethernet de alta velocidad, y Linux. El nombre Beowulf viene del proyecto del Centro Goddard Space Flight de la NASA Clusters: Interconexiones Clusters dedicado con master Originalmente Fast Ethernet sobre clusters de bajo costo Ethernet Gigabit un camino fácil de actualización Rendimiento mas Especializado/Alto Myrinet 2.4 Gbits/sec desventaja: proveedor único clan SCI (Scalable Coherent Interface) QNet Infiniband - puede ser importante en la medida que las interfaces de Infiniband (120/96 gbps) estarán integradas en las próximas generaciones de PCs. Clusters dedicado con master Clusters TOP ONE (2007) BlueGene/L (2007): Primer lugar TOP Teraflops GB de memoria Procesadores PowerPC MHz (2.8 Gflops) procesadores Middleware (MOSIX, OpenMOSIX, Condor, OpenSSI, etc.) Es un Sw que actúa entre el SO y las apps para proveer: una interfaz única de acceso al sistema, SSI (Single System Image), que genera la sensación de que utiliza un único computador muy potente; herramientas para optimizar y mantener el sistema: migraciónde procesos, checkpoint-restart, balanceo de carga, tolerancia a fallas, etc. escalabilidad. 11

12 Cluster de consolas de videojuegos Institute of Graphics and Parallel Processing 8 x Sony PlayStation2 100Mbit Ethernet Trabajos realizados: Renderización en tiempo real Examinación avanzada de técnicas de hardware (pixel/vertex shaders). Renderizacion de terrenos para investigaciones Cluster de consolas de videojuegos 8 x Sony PlayStation3 Muy conveniente por el precio de la consola y su alto rendimiento. (raw computing power per dollar) Cluster de consolas de videojuegos 12 x Xbox Microsoft SO: Xebian Linux V1.0.2 Sw del cluster: OpenMosix Benchmarking: LinPack Tipos de cluster Alta Disponibilidad (HA) Principal funcionalidad: controlar y actuar para que un servicio se encuentre activo durante el máximo periodo de tiempo posible, intentando brindar servicios 24 x 7. Ej.: un cluster de servidores web. Problemas que solucionan: Sistemas de información redundante Sistemas tolerantes a fallas Balanceo de carga entre varios servidores Balanceo de conexiones entre varios servidores Técnicas: se basa en excluir del sistema los puntos críticos que pueden producir una falla y la pérdida de disponibilidad de un servicio. Suelen implementar desde enlaces de red redundantes hasta disponer de N máquinas para hacer una misma tarea de manera que si caen N-1 máquinas, el servicio permanece activo con o sin pérdida de rendimiento dependiendo de la implementación. Tipos de cluster Alto Desempeño (HP) Creados para compartir el recurso más valioso de un computador, el tiempo de proceso. Se utilizan en ambientes científicos o en grandes empresas para la compilación o renderización. Cualquier operación que necesita ejecutar millones de operaciones puede usar un cluster de alto rendimiento, siempre que se encuentre un algoritmo que sea paralelizable. Problemas que solucionan: Problemas matemáticos relativos a problemas científicos. Renderizaciones de gráficos. Compilación de programas. Compresión de cualquier tipo. Descifrado de códigos. Rendimiento del SO (incluyendo en él, el rendimiento de los recursos de cada nodo). Tipos de Cluster Alta Confiabilidad (HR) Se basan en no solamente conceder servicios de alta disponibilidad, sino en ofrecer un entorno de sistema altamente confiable. Esto implica muchísima sobrecarga en el sistema por lo que son también clusters muy acoplados. En los clusters de alta disponibilidad una vez que el servicio ha caído éste se relanza, y no existe manera de conservar el estado del servidor anterior, más que mediante puntos de chequeos o checkpoints. Por otro lado, los clusters confiables tratan de mantener el estado de las aplicaciones, no simplemente de utilizar el último checkpoint del sistema y relanzar el servicio. Deberían ser una mezcla de clusters de alto rendimiento y alta disponibilidad mejorados. Actualmente, son los más difíciles de implementar, debido a limitaciones de latencia de la red, así como a la complejidad de mantener un estado global consistente. 12

13 Clusters o Supercomputadores? Cluster o Grid? Un Supercomputador es un cluster. MareNostrum (España): Procesadores duales IBM PowerPC 970FX de 64 bits a 2.2 GHz, CPUs en total. Los nodos se comunican a través de una red Myrinet de gran ancho de banda y baja latencia (latencias de 3 µsec y BW de 2Gbps o incluso 10Gbps). Tiene 20 Terabytes de memoria central y 280 Terabytes en disco. Utiliza SO Suse Linux. Capacidad de cálculo: 62,63 Teraflops. Ocupa una instalación de 160 m² y pesa kg. Grid Computing abarca grandes espacios geográficos, utilizando conexión de internet generalmente. Los cluster ocupan espacios reducidos, como salones o pisos en un edificio, utilizando redes locales de alta velocidad. En un Grid no es posible confiar en la disponibilidad de todos los nodos. En un Grid existen altos niveles de latencia de comunicación entre los nodos. Los Grids son conocidos también como Cuasi-Supercomputadores. Ejemplos: BOINC (Berkeley Open Infrastructure for Network Computing) SETI@HOME FOLDING@HOME (PS3) Programación Paralela Programación Paralela Un programa típico puede dividirse en dos partes: Secciones inherentemente secuenciales: no puede correr en paralelo. Secciones potencialmente paralelas. Trivial DESCOMPOSICIÓN Funcional (depenidente del problema) Datos Método para dividir la parte potencialmente paralela es crítico Las partes inherentemente secuenciales deben ser pequeñas Pipeline (vector) Balanceado Desbalanceado Objetivo: Mantener a todos los procesadores (igualmente) ocupados. Minimizar las comunicaciones inter-procesadores. Geométrico SSD Task Farm (Tareas Independientes) Programación Paralela Programación Paralela Dividiendo el Problema: Descomposición geométrica: Predicción del tiempo. Cuántos Procesadores? eso depende Dividir el problema tiene un costo el paralelismo involucra comunicación entre los procesadores pero el costo puede recuperarse si se obtiene suficiente ganancia en tiempo al hacer el trabajo en paralelo. cada procesador hace independientemente su propio trabajo: cálculos. Granularidad: Tamaño de las regiones de trabajo Demasiado grande: poco paralelismo Demasiado chico: comunicación 13

14 Programación Paralela Programación Paralela Balance de Carga Soledad y hacinamiento Intentar dividir el problema en forma pareja, tal que cada procesador tenga el mismo monto de trabajo. El tiempo total de ejecución limitado por la tarea más grande. Algunos problemas están naturalmente balanceados: Simulación del tiempo Intento de balancear la carga por: Una estrategia de descomposición adecuada Eligiendo un tamaño de grano adecuado Problema Desbalanceado: Procesamiento de Imágenes Descomposición geométrica entrega carga desbalanceada Solución: dividir la imagen en varias partes y usar Task farm Programación Paralela Programando Multiprocesadores con MC Task Farm: Esquema Master-Slave Tarea del Master: mantener lista de los pedazos de problema no resueltos Procesadores Slaves: solicita un pedazo de problema, lo resuelve y retorna el resultado. Threads (Hebras, hilos) el programador descompone el programa en secuencias paralelas individuales, (hebras), cada una habilitada para acceder variables declaradas fuera de la hebra. Ejemplo de Pthreads Un lenguaje de programación secuencial con directivas de compilación de preprocesamiento para declarar variables compartidas y especificar paralelismo. Ejemplo de OpenMP estándar de la industria requiere compilador OpenMP Un lenguaje de programación secuencial con sintaxis agregada para declarar variables compartidas y especificar paralelismo. Ejemplo UPC (Unified Parallel C) requiere un compilador UPC Un lenguaje de programación paralela con sintaxis para expresar paralelismo, en el cual el compilador crea el código ejecutable apropiado para cada procesador (no es común). Un lenguaje de programación secuencial que solicita a un compilador paralelo generar el código ejecutable paralelo tampoco es muy común. (mas adelante explicaremos el tema multihebras) Taller de Sistemas Computacionales Introducción Mauricio Solar