Es una API (Aplication Program Interface) que se usa para paralelismo basado en hilos múltiples en entornos de memoria compartida

Transcripción

1 Algo de OPENMP

2 Memoria Compartida

3 Threads O hilos, se definen como flujos de instrucciones independientes, que se ejecutan separadamente del programa principal. Con estos hilos se aprovecha mucho una máquina de memoria compartida. A diferencia de MPI, que cada proceso tiene su espacio de memoria, y cuando necesita un dato hay que pasárselo, los hilos leen de la memoria lo que necesitan, acceden al dato, que genera otro hilo o no, etc. Para cierto tipo de problemas, programa con hilos presenta muchas ventajas con respecto a MPI. Dos técnicas principales: 1) pthreads: POSIX threads. Estándar soportado por Unix, Linux y Windows, y para valientes. 2) OpenMP: se basa en directivas de compilador. Mucho mas fácil, aunque es mucho menos efectivo.

4 OPENMP Open Multi-Processing Es una API (Aplication Program Interface) que se usa para paralelismo basado en hilos múltiples en entornos de memoria compartida Portable, funciona en C y FORTRAN, en Linux y en Windows. Aunque hay variaciones en implementación por empresas. (o sea: no es muy standart, pero ) No garantiza una manera eficiente de uso de recursos, pero es fácil. Hay que analizar el código, la performance, Y EL RESULTADO!!! Para saber si anda bien.

5 OPENMP

6 Hola mundo! En OpenMP #include <stdio.h> #include <omp.h> int main(int argc, char* argv[]){ omp_set_num_threads(4); //!!!crea 4 threads #pragma omp parallel { int ID; ID = omp_get_thread_num(); printf("hola soy el Thread %d. \n", ID); } return 0; } Compilar gcc fopenmp omp.c o hola

7 Hola mundo! En OpenMP #include <stdio.h> #include <omp.h> int main(int argc, char* argv[]){ #pragma omp parallel num_threads(4) //otra forma { int ID; ID = omp_get_thread_num(); printf("hola soy el Thread %d. \n", ID); } return 0; } gcc fopenmp omp.c o hola

8 Sincronización en Openmp Critical: accede un solo threads a la vez a esa porción del código

9 Sincronización en Openmp Atomic: solo un threads escribe a la vez

10 Sincronización en Openmp Barrier: Se espera a que todos los threads hayan llegado a ese lugar. #include <stdio.h> #include <omp.h> #define MAX 10 int main() { int count = 0; #pragma omp parallel num_threads(max) { #pragma omp atomic count++; #pragma omp barrier printf("numero de Threads: %d\n", count); } }

11 Ciclos paralelizados en Openmp Ciclos for, paralelizados casi naturalmente (OJO: no debe haber dependencia entre las iteraciones) #include <stdio.h> #include <omp.h> #define MAX 100 int main() { int i; double a[max], b[max], c[max]; #pragma omp parallel shared(a,b,c) private(i) { #pragma omp for for(i=0;i<max;i++){ c[i]=a[i]+b[i]; } }

12 Ciclos paralelizados en Openmp FORTRAN!$OMP PARALLEL!$OMP DO DO I=1,100 A(I) = A(I) + B ENDDO!$OMP END DO!$ OMP END PARALLEL C #pragma omp parallel { #pragma omp for for (i=0;i<100;++i) { A(I) = A(I) + B }

13 Ciclos paralelizados en Openmp SCHEDULE static/dynamic #pragma omp parallel for \ shared(a,b,c,chunk) private(i) \ schedule(static,chunk) for (i=0; i < n; i++) c[i] = a[i] + b[i]; #pragma omp parallel shared(a,b,c,chunk) private(i) { #pragma omp for schedule(dynamic,chunk) nowait { for (i=0; i < N; i++) c[i] = a[i] + b[i]; }

14 Ciclos paralelizados en Openmp Reduction: esto permite que cada threads use una copia de una variable y al final del ciclo se junten los resultados

15 Openmp: detalles adicionales Shared: indica cuando una variable es compartida por los threads Private: selecciona una variable para cada threads y no se mezclan. #pragma omp for nowait distribuye el trabajo pero sigue al terminar #pragma omp master las instrucciones solo las realiza el master #pragma omp single las instrucciones las hace un threads, cualquiera

16 Algunas rutinas que devuelven variables de entorno void omp_set_num_threads(int num_threads); // numero de threads del sistema (seteados en el entorno) int omp_get_num_threads(void);//numero de threads usados en el programa actual int omp_get_max_threads(void); //maximo nuemro de threads que puedo usar int omp_get_thread_num(void); // rango de los threads int omp_get_num_procs(void);//numero de procesos Omp_get_wtime()// para tiempos Omp_in_parallel()// informa si se esta dentro de una región paralelizada

17 PI en FORTRAN double precision d_pi_est double precision h integer i integer n double precision sum2 double precision x h = 1.0D+00 / dble ( 2 * n ) sum2 = 0.0D+00!$omp parallel do private(x), shared(h), reduction(+: sum2) do i = 1, n x = h * real ( 2 * i - 1 ) sum2 = sum D+00 / ( 1.0D+00 + x**2 ) end do d_pi_est = 4.0D+00 * sum2 / dble ( n ) return end

18 Tiempos en C wtime = omp_get_wtime ( ); xdoty = test01 ( n, x, y ); wtime = omp_get_wtime ( ) - wtime; Double tes01(n,x,y) { int i; double xdoty=0.0; # pragma omp parallel shared ( n, x, y ), private ( i ), reduction ( + : xdoty ) # pragma omp for for ( i = 0; i < n; i++ ) { xdoty = xdoty + x[i] * y[i]; } return xdoty; }

19 Ejercicios para ayer Test 1-2 Saludo de threads a eleccion del usuario Test 3 SpeedUp OPENMP vs. MPI PI: Montecarlo.

20 OPENMP OPENMP vs. MPI PI: Montecarlo. OPENMP- Algebra <y*x> A*b A*B A*x=b

21 Jacobi diff = 0.0; #pragma omp parallel private (i, j, tdiff) { tdiff = 0.0; #pragma omp for for (i = 1; i < my_rows-1; i++) for (j = 1; j < N-1; j++) { w[i][j] = (u[i-1][j] + u[i+1][j] + u[i][j-1] + u[i][j+1])/4.0; if (fabs(w[i][j] - u[i][j]) > tdiff) tdiff = fabs(w[i][j] - u[i][j]); } #pragma omp for nowait for (i = 1; i < my_rows-1; i++) for (j = 1; j < N-1; j++) u[i][j] = w[i][j]; #pragma omp critical if (tdiff > diff) diff = tdiff; }

22