mpc Un entorno de programación paralela basado en C Carlos Hoyos Barceló

Transcripción

1 mpc Un entorno de programación paralela basado en C Carlos Hoyos Barceló

2 Introducción mpc es una extensión del lenguaje ANSI C que incorpora primitivas para la programación de aplicaciones paralelas portables en redes heterogéneas. Es una evolución del lenguaje C[], una extensión de C optimizada para operaciones vectoriales. Mientras C[] abordaba el paralelismo a nivel de instrucción y de memoria en un único chip, mpc se diseñó para arquitecturas de memoria distribuida.

3 Características Coordinación mediante paso de mensajes (MPI) Abstracciones de alto nivel para que el programador no deba ocuparse de los detalles de implementación a nivel MPI. Diseñado para adaptarse a cualquier arquitectura distribuida con nodos de distinta capacidad (velocidad, memoria, etc).

4 Funcionamiento Un programa mpc define una red abstracta, y luego distribuye mensajes, datos, y lotes de cómputo a través de dicha red. El entorno proyecta la red abstracta sobre una red real de modo que se optimice la ejecución del programa sobre dicha red. La proyección se realiza dinámicamente en tiempo de ejecución, teniendo en cuenta el desempeño de cada procesador en la red.

5 Primeros pasos Un programador de mpc no sabe cuántos procesos constituyen un programa, ni en qué procesador se ejecutarán. El código fuente sólo especifica qué cómputos ha de ejecutar cada proceso del programa. mpc gestiona espacios de cómputo, conjuntos de procesadores virtuales agrupados en redes, que se asignan a tareas de modo similar a cómo se asigna memoria a los procesos en C.

6 Primeros pasos (II) Cada nodo de red puede tener diferentes características, lo que puede indicarse asignándole uno o más tipos. Los tipos de procesador son: de memoria, de cómputo vectorial, o escalar (estándar). Inicialmente, los programas mpc sólo tienen definido un procesador a lo largo de todo el programa, el proceso host, de tipo ordinario y escalar.

7 Definir redes en mpc Todo proceso es capaz de crear una nueva red. Al hacerlo, el proceso se incluye en la nueva red y pasa a ser su nodo padre. Si no se especifica un enlace entre dos nodos, estos se conectarán mediante un enlace por defecto, de longitud más larga que la mayor de las disponibles en la red. Al especificar enlaces, estos pueden ser unidireccionales -> o bidireccionales <->

8 Definir redes en mpc (II) nettype Rectangle { coord I=4; node { I<2: fast scalar; I>2: slow scalar; default: scalar; }; link { I>0: [I]<->[I-1]; I==0: [I]<->[3]; }; parent [0]; }; Código para definir un tipo de red abstracta heterogénea

9 Definir redes en mpc (III) Las clases de redes se definen usando nettype. coord establece las coordenadas (número de nodos en la red), puede tener varias dimensiones (para especificar mallas de procesadores, etc.) El atributo node permite asignarle tipos específicos a los nodos de estas redes (fast, void, slow ) El atributo link permite interconectar nodos. En el ejemplo, los nodos I>0 se conectan con su nodo previo, mientras que el nodo I 0 se conecta con I 3. parent señala cuál de los nodos será el padre.

10 Definir redes en mpc (V) Una vez definida una clase de red abstracta, se puede instanciar como cualquier otro tipo de datos en C. net Rectangle r1; Crear una red establece un nuevo espacio de cómputo. Es posible distribuir variables sobre este nuevo espacio de cómputo indicando una etiqueta de red en su declaración. int [r1]da[10]; //array en r1

11 Programar en mpc El manual de mpc se vale de programas de ejemplo para ir introduciendo paulatinamente a los programadores que vienen de C los conceptos novedosos del nuevo lenguaje. A continuación se muestran algunos de estos programas de ejemplo junto con una breve explicación del concepto que ilustran.

12 El primer programa paralelo Holamundo.mpc #include <stdio.h> int [*]main() { [host]printf( Hola, mundo!\n ); } Un programa mpc es muy similar a uno de C. mpc permite asignar etiquetas a funciones para especificar qué espacios de cómputo las ejecutarán en un programa paralelo.

13 El primer programa paralelo (II) La etiqueta [*] en HolaMundo.mpc indica que la función main es una función básica, y por tanto debe ser ejecutada por todos los procesos paralelos para garantizar un resultado correcto. Si una función sólo es invocada por uno (o más) procesos, se denomina nodal. En el ejemplo, [host] indica que la llamada a la función printf sólo la ejecutará el proceso asociado a la terminal de usuario que arrancó el programa.

14 El primer programa paralelo (III) Si se deseara que más de un proceso ejecutara la función printf, sería difícil predecir la salida del terminal, ya que sólo se mostrarían los mensajes de los procesos que estuvieran en la misma máquina que el host. Como este comportamiento no es deseable, la librería mpc.h incluye la función MPC_Printf que imprime los mensajes de todos los procesos en la misma terminal que el host.

15 El segundo programa paralelo Holamundo2.mpc #include <mpc.h> int [*]main() { MPC_Printf( Hola, mundo!\n ); } En este caso, se imprimen en la terminal del usuario tantos mensajes como procesos se ejecutan. El número concreto de procesos se indica en una directiva externa al programa.

16 Variables distribuidas Para saber en qué máquina se ejecuta un proceso se utiliza la función uname que requiere una variable de tipo utsname. Esta variable debe ser distribuida para que cada proceso almacene su propia versión local, con el valor apropiado para la máquina en la que se ejecuta. Cada proceso debe asignar valores a las variables que se distribuyen a su red.

17 El tercer programa paralelo Holamundo3.mpc #include <mpc.h> #include <sys/utsname.h> int [*]main() { struct utsname [*]un; [*]uname(&un); [*]MPC_Printf( Hola, mundo! Me ejecuto en %s.\n,un.nodename); } un es una variable distribuida, cada proceso almacena su versión. [*] puede cambiarse por [host] para que sólo lo ejecute un proceso.

18 Replicación de variables Un objeto puede replicarse para distribuir una copia exacta de todos sus componentes a todos los espacios de cómputo indicados. Los cambios al valor al objeto se propagan a todos los espacios mediante inundación. Si no se indica el tipo, se toma por defecto int. repl [*]a[4]={10,20,30,40}; En este ejemplo, todos los espacios de cómputo almacenan una copia del array de enteros a[4]

19 Redes Genéricas Es posible definir redes genéricas, de modo que al crear instancias de estas redes se pueda personalizar algunos aspectos de la red, como el número de nodos, o la potencia relativa de cada uno. Para ello, en la definición de la clase de red se incluye uno o más parámetros que se rellenan durante la creación de instancias.

20 Redes Genéricas (II) nettype Star(m,n[m]) { coord I=m; //numero de nodos node { I>=0: fast*n[i] scalar;} link { I>0: [I]->[0],[0]->[I]; }; parent [0]; }; En este caso tenemos una red genérica de tipo estrella con dos parámetros, el número de nodos de la red, y un array que indica la potencia relativa de cada uno. Los parámetros pueden darse en tiempo de ejecución.

21 Barreras El mecanismo de sincronización de MPI es la barrera. Los procesos esperan en ella hasta que todos la alcanzan antes de proseguir con la ejecución del programa. La función MPC_Barrier() permite establecer barreras para un espacio de cómputo. [mynet]mpc_barrier();

22 Subredes Por ahora, es posible hacer que una única red ejecute un conjunto de funciones. Si se quiere que sólo un subconjunto de miembros de una red acceda a un recurso, pueden hacerse filtros basados en coordenadas. Las subredes permiten fragmentar los problemas y asignar cada parte a una subred, reduciendo el coste de intercambio de datos y cómputos.

23 Subredes (II) #include <string.h> #include <mpc.h> #include <sys/utsname.h> nettype Mesh(int m,int n) { coord I=m,J=n; //malla MxN parent [0,0]; }; #define MAXLEN 256 int [*]main() { net Mesh(2,3) [host]m;...

24 Subredes (III)... [m]: { struct utsname un; char yo[maxlen], vecino[maxlen]; subnet [m:i==0]fila0, [m:i==1]fila1; uname(&un); strcpy(yo, un.nodename); [fila0]vecino[] = [fila1]yo[]; [fila1]vecino[] = [fila0]yo[]; MPC_Printf( Estoy en %s y mis coordenadas son (%d, %d).\n, yo, I coordof m, J coordof m); MPC_Printf("Mi vecino esta en %s.\n", vecino); } //fin de bloque de ejecucion de m }

25 Subredes (IV) 1. El proceso host crea una red de tipo Malla de tamaño 2x3, y pasa a formar parte de dicha red. 2. Luego viene un bloque exclusivo para los procesos pertenecientes a la malla, en ella se define una subred fila0 para los nodos de la malla para los que la coordenada I vale 0, y una fila1 para los que no. 3. Cada proceso copia el nombre de su máquina en el vector yo.

26 Subredes (V) 4. A continuación, los nodos de la subred fila1 copian el vector que contiene sus respectivos nombres de máquina al vector vecino en la otra subred, y viceversa. 5. Para mostrar el valor de las coordenadas de cada nodo se utiliza el operador coordof 6. yo y vecino son variables distribuidas en m por estar declaradas dentro de su bloque.

27 Instalación mpc en linux 1. Descargar mpc 4.0 ( $ mkdir build $ cd build $../configure prefix=? $ make all install check 2. Para compilar y ejecutar programas $ mpcc program.mpc o program.c $ mpicc program.c o program -lpmc $ mpirun np 4 program rtopofile=topo

28 Máquina virtual paralela (MVP) La máquina virtual paralela (MVP) es la que se encarga de ejecutar los programas mpc almacenados en la carpeta indicada por la variable de entorno $MPCTOPO. El formato de su fichero de configuración es: <nombre><nº procesos><nº procesadores> donde <nombre> es el nombre de la estación de trabajo indicado en /etc/hosts

29 Máquina Virtual Paralela (MVP) (II) Por ejemplo, el fichero de configuración para una máquina de memoria distribuida con tres estaciones de trabajo (alfa, beta, gamma) con cinco procesos cada uno, teniendo de host a alfa, sería como sigue: #tres workstations ejecutando 5 procesos alfa 5 beta 5 gamma 5

30 mpc-workshop mpc-workshop es un entorno integrado de desarrollo (IDE) de aplicaciones paralelas en mpc para plataformas Windows. Incluye editor, compilador, depurador, visor de datos, y entorno de ejecución de línea de comandos. Es gratuito y puede descargarse desde la siguiente dirección (

31 Bibliografía mpc language especification manual mpc workshop user s guide mpc tutorial by Alexey L. Lastovetsky mpc: a multi-paradigm programming language for massively parallel computers Alexey L. Lastovetsky High perfomance computing on Heterogeneous Networks Alexey Lastovetsky