W_ILU_GMRES. UNA ESTRATEGIA PARA SISTEMAS DE ECUACIONES LINEALES DENSOS

Transcripción

1 W_ILU_GMRES. UNA ESTRATEGIA PARA SISTEMAS DE ECUACIONES LINEALES DENSOS Angela León, Marta Lourdes Baguer, Yisleidy Linares, Universidad de La Habana Lilian Villarín, Universidad de Heidelberg, Alemania

2 Resolución de ecuaciones integrales en problemasde electromagnetismo Discretización de EDPs mediante BEM requiere la solución de sistemas de ecuaciones lineales con matriz densa Problemas de prospección de petróleo, información en cada nodo de la malla

3 A, b x: Ax=b

4 Matriz DENSA

5 DIRECTOS Ventajas: Gran precisión Son robustos, se pueden utilizar como caja negra, múltiples lados derechos Desventajas: Memoria y FLOPS requeridos crecen más rápido que la dimensión Difícil implementar eficientemente (no imposible, depende del problema) ITERATIVOS Ventajas: Pocos arreglos dimensión n, fácil implementar, la velocidad depende de Matriz*vector, elegir precisión Desventajas: No robustos, requieren precondicionador, cómo elegirlo? dependiente del problema, difícil paralelizar,

6 Factorización ILU(0). Obtención del Precondicionador GMRES

7 Se aplica la transformada bidimensional con base de Haar y de Daubechies en su forma estándar (primero por fila hasta el nivel deseado y después por columna) Cómo elegir el patrón de dispersión?? Umbral de dispersión?? Wavelet

8 Costo de la representación en base Wavelet Nivel Transformada estándar Total

9 Selección del umbral de truncamiento Definición: Dada una muestra V Є n 2 yunvalorαє[0,100] se define como percentil α de la muestra al valor p α Є V tal que α% del total de observaciones es menor que p α yel (100 α)% es mayor o igual que él. (I) El cálculo de percentiles puede ser realizado simplemente ordenando la muestra y tomando el valor que está en la posición α/100 * n 2 1. (II) Aplicado a la compresión de datos, si se desea obtener una aproximación de V con el β% elementos de mayor valor no nulos, basta con quitar de V todos los elementos menores que p 100 β. UMBRAL

10 Selección del umbral de truncamiento V Por (II) : β = 4/16 * 100 = 25% del total. p 100 β = p R Por (I) : pos = 75/100 * = 13 p 75 R [pos] V ~ UMBRAL

11 Selección del umbral de truncamiento UMBRAL

12 Costo de la selección del umbral de truncamiento

13 Factorización ILU(0). Obtención del Precondicionador ILU

14 Costo de la Factorización ILU(0)

15 GMRES GMRES método de proyección oblicua de subespacios de Krylov Para encontrar la base ortogonal utiliza el algoritmo Arnoldi {v 1,v 2,,v i } del subespacio de Krylov i ésimo La solución x i es x 0 +Vy i donde V es la matriz cuyas columnas son los vectores v i generados por Arnoldi Para obtener y i se resuelve el sistema H i y i = β i e 1,dondeH i es la matriz de tamaño ixide Hessenberg, la cual es generada durante el proceso Arnoldi. βi = r 0 2, r 0 = b - Ax 2 y e 1 es el vector canónico (1, 0,, 0) T de dimensión i GMRES

16 GMRES GMRES

17 Costo de GMRES

18 Wavelet ILU A, b x: Ax=b Umbral GMRES Se utiliza GMRES para hallar la solución al sistema.

19

20

21

22

23 Qué significa el término paralelismo en computación?

24 Particionado Comunicación Sincronización

25 Clasificación según el acceso a memoria Memoria compartida Memoria Distribuida Ejemplos de tecnologías en paralelo Supercomputadoras Clúster Grillas Multi core

26 Primeros pasos para el diseño de un algoritmo en paralelo Enfocarse en los puntos críticos, es decir, aquellas secciones que requieren un alto consumo de CPU Identificar las áreas que son muy lentas, al punto que el procesamiento en paralelo pueda detenerse Identificar las partes que no se pueden paralelizar. Un ejemplo común es la dependencia de datos

27 Cuándo es realmente eficiente ejecutar un programa en paralelo? V N P = 0.5 P = 0.9 P =

28 Surge en el 2002, creado por Don Syme. Fue incorporado en el nuevo Visual Studio 2010 Lenguaje que combina los paradigmas de la programación funcional y la programación orientada a objetos. Como lenguaje funcional aprovecha mucho el paralelismo, debido a la inmutabilidad.

29 Transformada Wavelet Wavelet de Haar Nivel 1 Coeficientes de aproximación Coeficientes de detalle Nivel 2 Wavelet

30 Transformada Wavelet let ParallelHaarTransformForVector (v:decimalvector, level:int) = let result = DecimalVector v.getrows for l = 0 to level 1 do let hasta = float v.getrows / (2.0 ** float l) ignore (Parallel.For (0, int hasta/2, fun index > result. [index] < (v. [2*index] + v. [(2*index + 1)])*(1m/decimal (sqrt 2.0)) result. [(index + int hasta/2)] < (v. [2*index] v. [(2*index + 1)])*(1m/decimal (sqrt 2.0)) )) v.parallelassignment(result,0,v.getrows 1)

31 Transformada Wavelet Wavelet de Daubechies Nivel 1 Coeficientes de aproximación Coeficientes de detalle Nivel 2 Wavelet

32 Transformada Wavelet Bidimensional Primero por filas hasta el nivel deseado. Después por columnas hasta el nivel deseado. WAW T Wavelet

33 Transformada Wavelet en paralelo Cada procesador procesa las filas asignadas. Cada procesador procesa las columnas asignadas Wavelet

34 Selección del umbral en paralelo UMBRAL

35 Selección del umbral en paralelo Quicksort (v, 0,n 1) Quicksort (v,0,p 1) Quicksort (v, p,n 1) Quicksort (v, 0,p1 1) Quicksort (v, p1,p 1) Quicksort (v, p,p2 1) Quicksort (v, p2,n 1) Quicksort (v, 0,pk 1) Quicksort (v, pr,n 1) UMBRAL

36 Factorización ILU (0) ILU

37 Factorización ILU (0) en paralelo ILU

38 GMRES Objetivo: Obtener una aproximación a la solución del sistema de dimensión n, con n grande, resolviendo un sistema de dimensión m, con m<<n. Cómo se logra esto? 1. Se genera una base ortonormal del subespacio de Krylov m ésimo. 2. Se construye el sistema de dimensión m. 3. Se halla una corrección a la solución inicial, utilizando la solución obtenida en 2 y la base generada en 1. GMRES

39 GMRES Principales características: En cuanto a la convergencia: No se detiene hasta alcanzarla. Converge en a lo sumo n iteraciones, siendo n la dimensión de A. La convergencia es monótona, es decir, r i+1 2 r i 2 GMRES

40 GMRES en paralelo = GMRES

41 GMRES en paralelo = GMRES

42 GMRES en paralelo GMRES

43 Wavelet ILU A, b x: Ax=b Umbral GMRES Aplicarle a la matriz densa A la transformada wavelet, obteniendo así una representación distinta de esta. Se obtiene el precondicionador ILU propuesto. Se utiliza GMRES precondicionado para hallar la solución al sistema.

44 SparseMatrix Esta estructura permite: Recorrido eficiente por filas y columnas. [3,5] Multiplicación eficiente de matriz x vector y matriz x matriz tanto secuencial como en paralelo. Optimización en la obtención del precondicionador ILU (0)

45 Variación del umbral Speed up processors 5% nnz 15% nnz 30% nnz

46 Variación ió de la dimensión ió Speed up processors

47 Variación del nivel de resolución p Speed u level 5 2 level level processors

48 Comportamiento de la estrategia general 3.5 Lehmer 2048 Speed up processors

49 Se introdujo el diseño en paralelo de la estrategia W_ILU_GMRES, la cual resuelve sistemas de ecuaciones lineales densos y de grandes dimensiones. ILU (0) continúa siendo elnodo crítico en el diseño en paralelo Secuencial: Mientras más sparse, mejor tiempo, Paralelo: Mientras menos sparse, más escalable. De acuerdo a los resultados preliminares se puede decir que en general la estrategia es escalable.