Computación de Alta Performance Curso PVM Avanzado

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Computación de Alta Performance Curso 2009. PVM Avanzado"

Pilar Cuenca Saavedra
hace 8 años
Vistas:

1 Computación de Alta Performance Curso 2009 Avanzado

2 QUÉ ES? Una BIBLIOTECA, NO un Lenguaje Un estandar de facto, no de comité Soporte para: Administracion dinamica de maquinas heterogeneas Identificacion de procesos Comunicación y sincronizacion de procesos Compilacion simple

3 MÁQUINA VIRTUAL DE Máquina Virtual Máquina virtual : conjunto de hosts ejecutando pvmd.

4 Aplicaciones y demonios Máquina 1 Máquina 2 pvmd mensajes pvmd Proceso Hello Proceso Hello_other

5 Dudas sobre el práctico 3?

6 TCP vs UDP Los problemas de ancho de banda se curan con dinero, los de latencia son mas difíciles.

7 INTERFAZ PARA APLICACIONES Funciones (en pvm.h). Existen seis tipos de funciones Funciones de control de procesos. Funciones de información. Funciones de configuración de grupos. Funciones de empaquetamiento de datos y control de buffers. Funciones de envío de mensajes. Funciones de recepción de mensajes.

8 GRUPOS DE PROCESOS Grupos dinámicos de procesos Permite definir órdenes o jerarquías de tareas. Construidos sobre las rutinas básicas de pvm. Requiere linkeditar con la biblioteca libgpvm3.a. Diseñados para ser genéricos, aunque se pierda algo de eficiencia. Cualquier tarea puede unirse o abandonar un grupo en cualquier momento (sin informar a otras tareas del grupo). Unirse a un grupo (o creación) int inum = pvm_joingroup (char * group); Abandonar un grupo int inum = pvm_lvgroup (char * group); Obtener información int tid = pvm_gettid (char *group, int inum); int size = pvm_gsize(char *group);

9 GRUPOS DE PROCESOS Sincronizacion por barrera. int info = pvm_barrier (char * group, int count) Los procesos se bloquean hasta que count miembros del grupo hagan la invocación. Error si invocan barrera para grupo al que no pertenecen o si count > #procesos en el grupo. Broadcast int info = pvm_bcast (char * group, int msgtag) Marca los mensajes con un identificador msgtag y los envía a todos los integrantes del grupo, excepto a si mismo Si una tarea se une al grupo durante un broadcast, no se enviará el mensaje. Si una tarea abandona un grupo luego de invocar un broadcast, una copia del mensaje será entregada.

10 INTERFAZ DE PROGRAMACIÓN DE Permite variadas operaciones: Obtener información del contexto (escenario de ejecución). Configuración dinámica del escenario de ejecución. Manejo de señales. Operaciones colectivas entre procesos. Otras.

11 API DE : INFORMACIÓN DE CONTEXTO EJEMPLO 1 pvm_config (int *nhost, int *narch, struct pvmhostinfo **hostp) Ofrece información de la configuración de la máquina virtual. Utiliza la estructura predefinida de struct pvmhostinfo (definida en pvm3.h) Contiene el TID del pvmd, el nombre del host, su arquitectura, y la velocidad relativa de su CPU.

12 API DE : INFORMACIÓN DE CONTEXTO EJEMPLO 2 pvm_tasks (int which, int *ntask, struct pvmtaskinfo **taskp) which= 0 todas las tareas which = DTID tareas en un host which = TID de una única tarea Ofrece información de las tareas en ejecución. Utiliza la estructura predefinida de struct pvmtaskinfo (definida en pvm3.h) Contiene los TID, el TID del pvmd, el TID del padre, una bandera de status, y el nombre del archivo lanzado (con spawn).

13 CONFIGURACIÓN DINAMICA int pvm_addhosts(char **hosts, inf nhosts, int *infos) hosts: array de nombres de equipos (con pvmd instalado y cuenta de usuario disponible). nhost: largo del array de hosts. infos: array de enteros de largo nhost con el status de cada host (valores negativos indican un error, valores positivos son los TIDs de cada host). host Character string naming the host to be added. Retorna un entero con el número de hosts agregados (si es menor que nhost hay un fallo parcial, si es menor que 1 hay un fallo total). Agrega los equipos en hosts a la máquina virtual. Sintaxis de nombres: la del pvmd hostfile EJEMPLO de USO: static char *hosts[] = {"sparky","thud.cs.utk.edu",}; info = pvm_addhosts( hosts, 2, infos ); int pvm_delhosts(char **hosts, inf nhosts, int *infos)

14 API DE : SEÑALES int pvm_sendsig(tid, signum) Envia una señal signum a la tarea con tid dado Mismo concepto y funcionalidad que en C-UNIX, pero distribuido por los pvmd

15 API DE : SEÑALES int pvm_notify(int what, int msgtag, int cnt, int tids) Solicita a los pvmds ser notificado de ciertos eventos (what): PvmTaskExit (fin de tarea). PvmHostDelete (host eliminado o falla). PvmHostAdd (host agregado). msgtag: tag de identificación (definido por el usuario). tids: array que especifica a quién monitorear (en el caso de TaskExit y de HostDelete).

16 API DE : OPERACIONES COLECTIVAS pvm_reduce(void (*func)(), void *data, int nitem, int datatype, int msgtag, char *group, int root) Se realiza una operación aritmética global en un grupo. El resultado de la operación llega a la tarea con TID root. Funciones predefinidas: PvmMax, PvmMin, PvmSum, PvmProduct ó definidas por el usuario (func). Ejemplo en $_ROOT/examples/gexamples pvm_reduce() no es bloqueante. Si una tarea la invoca y luego abandona el grupo antes que el root invoque a pvm_reduce, se produce un error.

17 _REDUCE

20 _GATHER Un miembro especifico del grupo (el root) recibe mensajes de cada miembro del grupo y guarda la informacion recibida en un unico array (*result). Todos los miembros del grupo deben invocar a la funcion pvm_gather()

21 _SCATTER Distribuye informacion de un miembro del grupo (root) a los demas miembros. Todos los miembros deben invocar la funcion. Cada miembro recibe del root una parte de los datos y lo almacena localmente.

22 Ejercicio Modificar el codigo de Jacobi (presentado en la clase anterior de ) para utilizar _GATHER, _SCATTER y _BCAST Comparar performance entre ambas versiones

23 : CASO DE ESTUDIO METODO DE JACOBI PARA RESOLVER SISTEMAS DE ECUACIONES LINEALES Bajo ciertas condiciones, un sistema lineal puede resolverse mediante el método iterativo de Jacobi. j i j i n n a ii Como en para calcular el paso k+1 solo se precisan datos del paso k, el cálculo puede paralelizarse.

24 PSEUDOCODIGO MASTER (CLIENTE) Algoritmo Jacobi_Par(A,b,x0,k); n = Dimension(b); /* dimensión del sistema */ Crear_procesos_esclavos(k); /* crear k procesos esclavos */ M = int(n/k); /* cantidad de filas por esclavo */ x_sol=x0; /* inicializar la solución */ DESDE (i=1) hasta k /* enviar una parte del sistema */ Envio_A_sub(A,M,i); /* enviar un bloque de M filas de A */ Envio_b_sub(b,M,i); /* enviar un bloque tamaño M de b */ FIN_DESDE; MIENTRAS (COND) hacer DESDE (i=1) hasta k /* enviar una parte del sistema */ Envio_sol_act(x_sol,i) /* enviar solución actual */ FIN_DESDE; DESDE (i=1) hasta k /* esperar partes de nueva solución */ Espero_vect_sub(vect[i],i); /* esperar al i-ésimo esclavo */ FIN_DESDE; x_sol=armo_solucion(vect); /* armar la solucion actual */ FIN_MIENTRAS; return(x_sol) ; /* retornar solución final (cumple COND) */

25 PSEUDOCODIGO SLAVE (SERVIDOR de CÓMPUTO) Algoritmo Calculo_Jacobi_Par(); /* Esperar un conjunto de filas de A (una submatriz de A) */ Espero_A_sub(As); /* Esperar una parte del vector b */ Espero_b_sub(bs); /* Esperar envío de datos para actualizar la solución */ MIENTRAS (TRUE) hacer /* Esperar el envío de la solución actual */ Espero_sol_act(x_sol); /* Calcular parte del nuevo vector solución en función de As, bs y x_sol */ Calculo_vect(vect, As, bs,x_sol); /* Enviar al proceso master el resultado actual */ Envio_vect_sub(vect); FIN_MIENTRAS

26 X Consola grafica de Armado de maquinas virtuales. Vista espacio-tiempo. Graficas de utilizacion. Soporte basico de debugging.

28 Evolucion Networks of Workstations Wide-area GRID experiments MPI MPI I-MPI PC Clusters Harness 2000 MPI-2

29 Euro-MPI 2009 y MPI siguen siendo las herramientas mas utilizadas para HPC La principal tendencia de hardware son los clusters de PCs. Nuevas distribuciones para: Beowulfs Windows Permiten a diferentes clusters, aun separados por firewalls, trabajar en conjunto

30 HARNESS Explorando nuevas posibilidades en computacion paralela heterogenea Crear, basados en la experiencia con, un nuevo tipo de maquina virtual basado en los siguientes 3 conceptos: Ambiente paralelo de plug-ins Extender el concepto de plug-in al mundo de la computacion paralela. En forma dinamica, sin restricciones sobre las funciones. Control peer-to-peer distribuido Evitar puntos de falla unicos Union/division de multiples maquinas virtuales Ofrecer mecanismos de compartir recursos de corto plazo entre equipos de trabajo colaborativos.

31 HARNESS Virtual Machine Merge/split with other VMs Host A Host D Host B Another VM Virtual Machine Host C Component based daemon process control Operation within VM uses Distributed Control user features HARNESS daemon Customization and extension by dynamically adding plug-ins

32 MPI-2 Extensiones a las funcionalidades basicas de MPI Entrada/salida paralela Operaciones de acceso a memoria remota Manejo dinamico de procesos Herramientas para tunning de aplicaciones

Documentos relacionados

Manuel Arenaz. arenaz@udc.es

Manuel Arenaz. arenaz@udc.es Manuel Arenaz arenaz@udc.es Introducción a la programación paralela Qué es la Programación Paralela? Computador estándar secuencial: Ejecuta las instrucciones de un programa en orden para producir un resultado