Sistemas de Ecuaciones. Lineales II

Transcripción

1 Sistemas de Ecuaciones Lineales II Factorización LU: Eliminación Gaussiana Relación con la factorización LU DIM Universidad de Concepción

2 Solución de sistemas con matriz triangular Dadas L = l l 21 l 22 0 l n1 l n2 l nn y U = u 11 u 12 u 1n 0 u 22 u 2n 0 0 u nn decimos que L es triangular inferior y U es triangular superior Dado que det(l) = l 11 l 22 l nn y det(u) = u 11 u 22 u nn, una matriz triangular es no singular si y sólo si sus términos diagonales son todos no nulos La resolución de sistemas de ecuaciones lineales con matrices triangulares es muy sencilla y su costo operacional es bajo DIM Universidad de Concepción

3 Solución de sistemas con matriz triangular (cont) Consideremos un sistema Lx = b con matriz triangular inferior L Procedemos por sustitución progresiva: l 11 x 1 = b 1 x 1 = b 1 /l 11 l 21 x 1 + l 22 x 2 = b 2 x 2 = (b 2 l 21 x 1 ) /l 22 l n1 x l nn x n = b n x n = (b n l n1 x 1 l nn 1 x n 1 ) /l nn Algoritmo: Costo operacional: Para i = 1,, n x i = 1 b i l ii n 1 + i=1 i 1 j=1 i 1 j=1 2 = l ij x j n (2i 1) = n 2 flop i= DIM Universidad de Concepción

4 Solución de sistemas con matriz triangular (cont) Ejercicio: 1 Deducir el siguiente algoritmo para resolver un sistema Ux = b con matriz triangular superior U : 2 Calcular su costo operacional Para i = n, n 1,, 1 x i = 1 n b i u ii j=i+1 u ij x j DIM Universidad de Concepción

5 Método de Eliminación Gaussiana (MEG) El método de eliminación gaussiana consiste en reducir mediante transformaciones elementales un sistema Ax = b a otro equivalente (es decir, que tenga la misma solución), de la forma Ux = b, donde U es una matriz triangular superior Luego, el sistema resultante se resuelve por el algoritmo descrito para matrices triangulares Denotemos el sistema original por A (1) x = b (1) El proceso empleado consiste en reemplazar las ecuaciones por combinaciones no triviales de las otras Así, consideremos la matriz no singular A R n n y supongamos que el elemento a (1) 11 es no nulo Consideremos los multiplicadores m i1 = a(1) i1, i = 2,, n, a (1) 11 donde a (1) ij donota el elemento que está en la fila i y columna j de A (1) DIM Universidad de Concepción

6 Método de Eliminación Gaussiana (cont) Es posible eliminar la incógnita x 1 de la segunda ecuación en adelante, por simple sustracción a la fila i, i = 2,, n, de la primera fila previamente multiplicada por m i1 y haciendo lo mismo para el vector b: a (2) ij = a (1) ij m i1 a (1) 1j, i, j = 2,, n, b (2) i = b (1) i m i1 b (1) 1, i = 2,, n, donde b (1) i denota la componente i-ésima del vector b (1) Así se obtiene un sistema A (2) x = b (2) equivalente al anterior: a (1) 11 a (1) 12 a (1) 13 a (1) 1n x a (2) 22 a (2) 23 a (2) 2n x a (2) 32 a (2) 33 a (2) 3n x 3 = 3 0 a (2) n2 a (2) n3 a (2) nn x n b (1) b (2) b (2) b (2) n DIM Universidad de Concepción

7 Método de Eliminación Gaussiana (cont) A continuación, si a (2) 22 0, podemos análogamente eliminar la incógnita x 2 de la tercera ecuación en adelante Siguiendo con este proceso un número finito de veces se obtiene el sistema A (k) x = b (k), 1 k n, donde la matriz A (k) toma la siguiente forma: A (k) = 12 a (1) 1n 0 a (2) 22 a (2) 2n 0 a (k) kk a (k) kn 0 0 a (k) nk a (k) nn a (1) 11 a (1) Para realizar este proceso hemos supuesto que a (i) ii 0, i = 1,, k DIM Universidad de Concepción

8 Método de Eliminación Gaussiana (cont) Notemos que para k = n obtenemos el sistema triangular superior a (1) 11 a (1) 12 a (1) 1n x 1 b (1) 1 0 a (2) 22 a (2) 2n x 2 b (2) 2 = 0 0 a nn (n) b n (n) Los valores a (k) kk k = 1,, n 1 x n son llamados pivotes y deben ser valores no nulos para Si la matriz original A es no singular, entonces también a (n) nn 0 y el sistema triangular superior resultante puede resolverse por el algoritmo ya visto: Para i = n, n 1,, 1 x i = 1 b (i) a (i) i ii n a (i) ij x j j=i DIM Universidad de Concepción

9 Algoritmo del MEG Recordemos que en el paso k-ésimo se parte de la siguiente matriz: 12 a (1) 1n 0 a (2) 22 a (2) 2n 0 a (k) kk a (k) kn 0 0 a (k) nk a (k) nn a (1) 11 a (1) Para k = 1,, n 1 para i = k + 1,, n m ik = a (k) ik /a(k) kk para j = k + 1,, n a (k+1) ij = a (k) ij m ik a (k) kj b (k+1) i = b (k) i m ik b (k) k Para i = n, n 1,, 1 x i = 1 b (i) a (i) i ii n a (i) ij x j j=i+1 Observación: El algoritmo no precisa crear los ceros debajo de la diagonal de la matriz, pues éstos luego no se utilizan DIM Universidad de Concepción

10 Costo Operacional del MEG Costo del paso de eliminación: Para k = 1,, n 1 para i = k + 1,, n m ik = a (k) ik /a(k) kk para j = k + 1,, n a (k+1) ij = a (k) ij m ik a (k) kj b (k+1) i = b (k) i m ik b (k) k n 1 k=1 = = n i=k n j=k+1 n 1 (n k) [2(n k) + 3] k=1 ( 2 3 n n2 7 ) 6 n flop Costo de la solución de sistema triangular superior: Costo operacional total: ( 2 3 n n2 7 ) 6 n n 2 flop flop DIM Universidad de Concepción

11 Costo Operacional del MEG (cont) n Eliminación Sist Triang Total MEG 2 3 n3 % Elim % S T DIM Universidad de Concepción

12 Costo Operacional del MEG (cont) Para n grande, los términos proporcionales a n 2 (y a n) resultan despreciables respecto a los proporcionales a n 3 Por esa razón, el costo operacional del método de eliminación gaussiana se dice que es de aproximadamente 2 3 n3 flop Notemos que la mayor parte del costo corresponde a la triangularización de la matriz: Para k = 1,, n 1 para i = k + 1,, n m ik = a (k) ik /a(k) kk para j = k + 1,, n a (k+1) ij = a (k) ij m ik a (k) kj Costo operacional: 2 3 n3 flop DIM Universidad de Concepción

13 Factorización LU Ejemplo: A = m 21 = 2 m 31 = m 32 = U := L := m = m 31 m Notemos que LU = = = A DIM Universidad de Concepción

14 Factorización LU (cont) Si la matriz A es tal que la etapa de eliminación del MEG se puede llevar a cabo (es decir si todos los pivotes a (i) ii donde: 0, i = 1,, n 1), entonces A = LU, U es la matriz triangular superior que resulta de la eliminación y L es la matriz triangular inferior de los multiplicadores m ij : m L = m n1 m nn DIM Universidad de Concepción

15 Solución de sistemas mediante factorización LU Si A = LU, entonces Ax = b L(Ux) = b Ly = b, Ux = y Por lo tanto, resolver un sistema Ax = b es equivalente a: 1 resolver Ly = b y, luego, 2 resolver Ux = y Como estos sistemas son triangulares (inferior y superior, respectivamente), el costo operacional de resolver los dos sistemas es 2n 2 flop Factorizar la matriz A = LU consiste simplemente en: triangularizar A por eliminación gaussiana y almacenar la matriz triangular L de multiplicadores Por lo tanto, el costo de factorizar la matriz A = LU es 2 3 n3 flop Como 2n n3, el costo operacional total para resolver un sistema mediante factorización LU es 2 3 n3 flop DIM Universidad de Concepción

16 Solución de sistemas mediante factorizac LU (cont) Muchas veces deben resolverse varios sistemas de ecuaciones con la misma matriz y distintos segundos miembros b 1,, b m (por ejemplo, para calcular A 1 ) En tal caso, conviene primero factorizar la matriz A = LU (una sola vez!) y luego resolver los pares de sistemas triangulares para cada segundo miembro: Ly 1 = b 1, Ux 1 = y 1, Ly m = b m, Ux m = y m Así, la parte más costosa del proceso (la factorización: 2 3 n3 ) se hace una sola vez y sólo se repite la parte menos costosa (la solución de los sistemas triangulares: 2n 2 ) Hay algoritmos (Crout, Doolitle) que permiten obtener directamente la factorización LU de una matriz, pero el costo es el mismo que el de hacerlo por eliminación gaussiana DIM Universidad de Concepción

17 Solución de sistemas mediante factorizac LU (cont) Algoritmo (por eliminación gaussiana): Para k = 1,, n 1 para i = k + 1,, n m ik = a (k) ik /a(k) kk para j = k + 1,, n a (k+1) ij = a (k) ij m ik a (k) kj Para i = 1,, n y i = b i i 1 j=1 m ij y j Para i = n, n 1,, 1 x i = 1 n y a (i) i ii a (i) ij x j j=i+1 Observación: La matriz triangular superior puede calcularse utilizando las mismas posiciones de memoria en las que inicialmente está almacenada A A fin de no tener que utilizar una matriz más para guardar L, pueden almacenarse cada multiplicador m ij en lugar de la entrada a ij que se hace cero en ese paso Ésta no es la forma en que procede MAT- LAB, pues este software no pretende optimizar el costo de almacenamiento Sin embargo, hay mucho software que utiliza este truco a fin de evitar tener que usar memoria adicional para almacenar los multiplicadores DIM Universidad de Concepción