Descomposición LU de matrices

Transcripción

1 Descomposición LU de matrices José L. Vieitez IMERL, Facultad de Ingeniería, Universidad de la República 3 de agosto de 006 Abstract Descomposición LU de una matriz A = (a ij ), i, j = 1,..., n. 1 Hechos básicos Para escalerizar la matriz A = ((a i,j )), n n, por el método de Gauss se usan 3 operaciones elementales: 1. Intercambio de las filas i y j, A i con A j : equivale a multiplicar a la izquierda la matriz A por la matriz n n, P i,j, obtenida de la identidad I n intercambiando las filas i y j.. Multiplicación de la fila A i por el número k 0: equivale a multiplicar a la izquierda la matriz A por la matriz n n, I n + (k 1)E i,i, donde E i,j denota la matriz que tiene todas las entradas nulas menos la (i, j) que vale Suma a la fila A j de la fila A i, i j, multiplicada por el número λ: equivale a multiplicar a la izquierda la matriz A por la matriz n n, I n +λe j,i. Observación Si se hace la multiplicación a derecha por la matriz correspondiente se intercambian las columnas, se multiplica una columna por un número o se suma a una columna un múltiplo de otra. En el proceso de escalerización puede no ser preciso cambiar filas de lugar, pero si fuera necesario hacerlo, una observación importante es que se puede suponer que el intercambio se ha realizado todo al comienzo de la escalerización. Esto es así porque en el Método de Escalerización de Gauss el intercambio de filas se hace en 1

2 el momento de elegir un pivot. Si denotamos por A (h) a la matriz obtenida tras h pasos de escalerización, y esa matriz es de la forma: A (h) = b 1,1 b 1, b 1,n 0 b, b,n 0 0 b 3,3 b 3,n 0 0 b j,j b j,n 0 0 b j+1,j b j+1,n 0 0 b n,j b n,n Entonces el pivoteo (parcial) implica la búsqueda de un elemento b t,j, t = j,..., n, no nulo y de módulo máximo para disminuir los errores numéricos que se introducen en las operaciones (si no se tiene en cuenta esto, casi que lo único que interesa es que b t,j 0). Pero esto afecta solo a las filas que en ese momento ocupan los lugares entre j y n. Por tanto aquellas filas que ya fueron pivot no aparecen en posibles intercambios: si intercambio al comienzo la fila 1 con la 4 y luego la fila 3 con la 4 (que era la vieja fila 1), equivale a hacer de una vez: la fila 1 al lugar de la fila 3, la fila 3 a la fila 4 y la fila 4 a la fila 1. Se puede entonces suponer que al comienzo un gnomo u oráculo nos dijo cómo convenía intercambiar las filas y hacerlo desde el comienzo. Si hacemos esto, en lugar de escalerizar A escalerizamos P A donde P es una matriz que intercambia las filas de A (una matriz de permutación). la matriz P es simplemente la que se obtiene de la identidad I n aplicándole esa permutación a las filas. Descomposición LU sin intercambio de filas Supongamos entonces por el momento que no precisamos alterar el orden entre las filas de A y que el rango de A es n (o sea, A es no singular). Observamos lo siguiente: al comienzo de la escalerización a cada fila A,..., A n le sumamos la primera fila A 1 multiplicada por l,1,..., l n,1 respectivamente, donde l j,1 = a j,1 /a 1,1.

3 Denotando por L 1 j,1 a la matriz L 1 j,1 = l j se ve fácilmente que su inversa L j,1 se obtiene simplemente cambiando el signo de la entrada (j, 1) ( multiplique ambas matrices!): L j,1 = l j La matriz A (1) que tiene todas las entradas en la primera columna iguales a 0, excepto la entrada (1, 1) que vale a 1,1, se escribe: o equivalentemente L 1 n,1 L 1 n 1,1 L 1 3,1 L 1,1 A = A(1) A = L,1 L 3,1 L n 1,1 L n,1 A (1). Repitiendo el proceso de escalerización con A (1) obtenemos una matriz A () que tiene nulas todos las entradas de la segunda columna (excepto la entrada (, )). Con la adopción obvia de notación queda: o equivalentemente L 1 n, L 1 4, L 1 3, L 1 n,1 L 1 3,1 L 1,1 A = A() A = L,1 L 3,1 L n,1 L 3, L 4, L n, A (). Aquí la matriz L i,j, i j, se obtiene sumándole a la matriz identidad I n la matriz n n que tiene todas sus entradas nulas excepto la que ocupa el lugar (i, j) que vale l i,j. 3

4 Continuando con el proceso de escalerización mientras sea posible se obtiene al final una matriz A (n) = U triangular superior (pues A es de rango máximo por hipótesis) tal que A se va a escribir A = L,1 L 3,1 L n,1 L 3, L n, L n 1,n L n,n L n,n 1 U. Afirmamos que: 1. el producto L,1 L 3,1 L n,1 L 3, L n, L n 1,n L n,n L n,n 1 es una matriz triangular inferior. Esto es obvio pues todas las matrices L i,j son triangulares inferiores y el producto de dos matrices triangulares inferiores es una matriz triangular inferior.. L,1 L 3,1 L n,1 es la matriz L 1 = l, l 3, l j l n, Del mismo modo da la matriz Y en general L = L 3, L 4, L n, l 3, l j, l n, 0 1 L i+1,i L i+,i L n,i 4

5 da la matriz L i que tiene sus entradas sobre la diagonal principal iguales a 1, cada entrada (j, i) de la columna i por debajo de la diagonal (j > i) igual a l j,i, y el resto de las entradas iguales a Finalmente el producto L 1 L da la matriz con entradas l, l 3,1 l 3, l j,1 l j, l n,1 l n, Para ver esto observar que multiplicar L por L 1 a la izquierda equivale a sumarle a la segunda fila de L la primera (que es (1, 0,..., 0)) multiplicada por l,1, a la tercera fila de L la primera multiplicada por l 3,1, etc. 4. Haciendo primero L n L n 1, al resultado multiplicándolo a a izquierda por L n 3 y así hasta llegar a L 1 se puede ver, con argumentos similares a los ya expuestos, que la matriz L obtenida de este modo es simplemente L = l, l 3,1 l 3, l j,1 l j, l j,3 1 0 l n,1 l n, l n,n 1 1 donde los coeficientes l j,i son los que se obtienen al aplicar el método de escalerización de Gauss. Se concluye que A = LU donde L es triangular inferior con los elementos de la diagonal principal iguales a 1 y los coeficientes l j,i obtenidos como se ilustra más arriba y U es la matriz que se obtiene de A luego de la escalerización. Además las matrices L, U tales que A = LU son únicas (con L con unos en la diagonal principal) pues si LU = A = L U entonces L 1 L = U U 1. Pero U y U son matrices triangulares superiores por lo que U 1 es triangular superior y el 5

6 producto U U 1 es triangular superior. Análogamente L 1 L es triangular inferior. Se concluye de la igualdad que todos los elementos de L 1 L = U U 1 que no estén en la diagonal principal son nulos. Pero como los de la diagonal principal de L y L son unos finalmente queda que L 1 L = U U 1 = I n. O sea, L = L y U = U. 3 Descomposición LU en el caso general Finalmente observemos que en el caso general no va a ser posible realizar la descomposición LU de la matriz A sin permutar las filas de A, en ese caso realizamos la descomposición LU de P A donde P es la matriz de permutación que intercambia las filas de A de modo que se pueda escalerizar P A sin pivoteo. Va a quedar P A = LU. Observación Por otro lado, si el rango de A es menor que n (A es una matriz singular) en el proceso de escalerización de Gauss nos damos cuenta ya que encontraremos en algún paso j de la escalerización, j = 1,..., n 1, que todas las filas F k k = j + 1,..., n tienen elementos a k,j+1 = 0. Más aun, para las filas F k luego del paso j de escalerización con k = j +1,..., n consideremos el máximo m k de todos los elementos a k,h con h = j + 1,..., n. Entonces en aritmética de punto flotante debemos cuidar que el valor normalizado de a k,j+1 /m k no sea tan chico que introduzca tales errores en el cálculo que hagan imposible continuar. Esto depende de la precisión usada. Estaríamos, si a k,j+1 /m k 0 para todo k = j + 1,..., n, frente a un caso en que la matriz es casi singular. En ese caso un programa que realice la escalerización (o la descomposición LU) debe detenerse avisando que la matriz A es casi singular. Pero habíamos supuesto que un oráculo nos decía qué filas debíamos intercambiar, cómo hacer si el gnomo que nos sopla al principio el intercambio de filas no aparece? O sea, a priori no sé que intercambios de filas debo hacer. No sería muy económico tener que escalerizar una vez la matriz y volver a repetir todo de vuelta. Supongamos entonces que no tenemos al oráculo y que descubrimos luego de h pasos de escalerización aplicados directamente a A, que en la matriz A (h) obtenida es necesario intercambiar la fila i, F i, con la j, F j, siendo j > i > h. Eso equivale a multiplicar a izquierda la matriz A (h) por la matriz P ij que se obtiene a partir de la identidad I n cambiando en esta última la fila i con la j. Ejemplo: si quiero 6

7 intercambiar la fila 1 con la multiplico a izquierda por la matriz P P 1 = El intercambio de la fila i con la j se representa por la ecuación matricial P ij L 1 (h) A = P ij A (h) donde en L 1 h hemos incluido el producto de todas las transformaciones elementales aplicadas a A para obtener A (h). Obsérvese que la matriz L 1 (h) restringida a las columnas k i tiene entradas l 1 hk = 0 si h k, l 1 kk = 1. Esta observación permite probar que P ij L 1 (h) es lo mismo que L 1 (h) P ij donde L 1 (h) es la matriz que se obtiene de L 1 (h) intercambiando la fila i con la fila j pero dejando la entrada 1 en la diagonal principal sin mover. Ejemplo: supongamos que A es 4 4 y que van dos pasos de la escalerización y allí vemos que es preciso intercambiar la fila 3 con la 4. Esto se escribiría : P 34 L 1 que es lo mismo que l l 41 l l 31 l l l 31 l l 41 l A A Resulta entonces que no perdemos nada al ir realizando los intercambios de fila en el momento en que lo precisamos. Esto sugiere entonces que realicemos el siguiente Algoritmo para hallar la descomposición LU de P A. Entrada: A = ((a ij )) matriz n n de rango n. Salida: L, U P matrices n n que realizan la igualdad LU = P A. A 1. ) Hacer P la matriz identidad n n, hacer L la matriz identidad n n. (Valores iniciales de P y L). 7

8 . ) Para i variando entre 1 y n hacer: 3. ) Si a ii = 0 buscar el primer j > i tal que a ij 0. Intercambiar en P la fila i con la fila j, intercambiar en A la fila i con la j, intercambiar en L la fila i con la j, para la matriz L dejar incambiada la diagonal principal (donde la entrada es 1). 4. ) Para j > i hasta que j = n, hacer l ji = a ji a ii. Cambiar la fila F j de A por F j l ji F i. Insertar en la entrada (j, i) de L el valor l ji. 5. ) Tomar como nuevas matrices A, P y L a las obtenidas con las transformaciones anteriores. (Ver nota al pie del algoritmo). 6. ) Volver al paso. ) incrementando en 1 el valor de i. (repetir todo de nuevo hasta que i = n). 7. ) Al finalizar tenemos como último valor de A a la matriz U, y las correspondientes P y L. Nota: Los elementos a ij a los que refiere el algoritmo anterior NO son los originales de A, sino los que se obtienen al ir aplicando los sucesivos pasos. Así seguimos llamando A a la matriz que se va obteniendo luego de varias etapas de escalerización como es usual en programación. Es lo que anteriormente llamamos A (h). Análogas consideraciones valen para L y P. Si este algoritmo se realiza con un dispositivo electrónico (un computador) y se deseara guardar el valor original de A habría que almacenarlo aparte (tomar un duplicado) ya que al final del algoritmo el valor modificado de A es la matriz U. Más aun, los lugares que van a ser 0 pueden almacenar los valores de L excepto los de la diagonal principal, pero estos no se precisan almacenar ya que l ii = 1 para todo i = 1,..., n donde (l ij ) = L. Para resolver el sistema Ax = b lo hacemos resolviendo P Ax = P b, o sea, LUx = P b. En la práctica tampoco se precisa construir la matriz P. Alcanza con llevar control de las filas que intercambiamos en la escalerización o que puede hacerse con un vector de orden ord que al principio se inicializa como ord(k) = k para todo k = 1,..., n. Al intercambiar la fila i con la j simplemente llevamos cuenta de ello haciendo ord(i) = j, ord(j) = i. Al resolver Ax = b, usando la 8

9 descomposición LU, realizamos los mismos intercambios entre las filas de la matriz columna b. La información de estos cambios están almacenados en ord. 4 Ejemplos de bolsillo. Si A es una matriz entonces si a 11 0 calculamos y la matriz L queda simplemente ( ) a11 a A = 1 a 1 a L = l 1 = a 1 a 11 ( 1 0 l 1 1 La matriz U es la que resulta de la escalerización que en este caso queda ( ) a11 a U = 1 0 a donde a = a l 1 a 1 = a a 1 a 11 a 1. Si fuera preciso permutar las filas de A (esto es imprescindible si a 11 = 0, pero en la práctica debe hacerse también si a 11 normalizado es casi nulo, a 11 /m 1 0) entonces escalerizaríamos la matriz P A ( ) a1 a P A = a 11 a 1 donde P es la matriz elemental que realiza el intercambio de la primera y segunda fila de A al multiplicar A a la izquierda por P ( ) 0 1 P =. 1 0 Si A es una matriz 3 3 A = ) a 11 a 1 a 13 a 1 a a 3 a 31 a 3 a 33 9

10 entonces, si a 11 0, l 1 y l 31 se calculan simplemente como l 1 = a 1 a 11, l 31 = a 31 a 11 la matriz A luego de escalerizada para anular las entradas (, 1) y (3, 1) - lo que se logra cambiando la fila, A, por la fila menos la fila 1 multiplicada por l 1, A l 1 A 1 y cambiando la fila 3, A 3, por la fila 3 menos la fila 1 multiplicada por l 31, A 3 l 31 A 1 - queda a 11 a 1 a 13 A (1) = 0 a a 3 0 a 3 a 33 donde a = a l 1 a 1, a 3 = a 3 l 1 a 13, a 3 = a 3 l 31 a 1 y a 33 = a 33 l 31 a 13. Finalmente, si a 0 calculamos l 3 = a 3 a y escalerizmos restando a la tercera fila de A (1) la segunda. Obtenemos la matriz U a 11 a 1 a 13 U = 0 a a a 33 donde a 33 = a 33 l 3a 3. La matriz L va a ser simplemente L = l l 31 l 3 1 En general para obtener L se van almacenando en los lugares (j, i) los coeficientes l ji, j > i, que aparecen en el método de escalerización de Gauss, siendo l ji = a(h) ji a (h) ii el factor necesario para que al sustituir la fila A (h) j por A (h) j l ji A (h) i anule la entrada (j, i) (aquí A (h) representa la matriz obtenida luego de h pasos de escalerización). La entradas en la diagonal principal de L son el número 1 y el resto de las entradas (las que están por encima de la diagonal principal) son nulas. La matriz U va a ser la que se obtiene al finalizar la escalerización de A. Otra vez, si es preciso intercambiar filas en A en realidad vamos a estar haciendo la se 10

11 descomposición LU de P A y al resolver Ax = b lo haremos hallando la solución de LUx = P b. Ejemplos numéricos A = Aquí l 1 = 1. Restando a la segunda fila la primera multiplicada por l 1 = 1 queda como nueva segunda fila (0 1 5 ). Como la entrada (3, 1) es nula l 31 = 0. La matriz obtenida es 1 1 A (1) = El coeficiente l 3 vale l 3 = 1 1 = Sustituyendo en A (1) la tercera fila por la tercera fila menos la segunda multiplicada por l 3 obtenemos la matriz U 1 1 U = La matriz L queda Si ahora A fuera la matriz L = A = como en este caso a 11 = 0 debo intercambiar la fila 1 con otra. Es claro que si intercambio primero la fila 1 con la fila 3 y luego la fila 1 con la fila caigo en el ejemplo ya visto (esto es algo artificioso, normalmente uno haría un intercambio 11

12 sólo, por ejemplo la primera fila con la segunda, lo hacemos para aprovechar lo ya hecho). La matriz P en ese caso sería Si quiero resolver Ax = b con P = b = En este caso, como ya dijimos, aplicando LU debo intercambiar las filas de b según la matriz P resolviendo LUx = P b. En este caso P b es 5 b = 1. 3 La descomposición LU se usa cuando hay que resolver el sistema Ax = b para varios b distintos. En el fondo puede verse como un modo de aprovechar la información que se obtiene al escalerizar A de modo de re-usarla otras veces. Puede usarse para calcular la inversa de A, A 1, ya que en este caso se debe resolver Ax = e j para j = 1,..., n con e j la matriz columna (vector) que tiene todas sus entradas nulas excepto la de la fila j que vale 1. Observación Dado que det(p A) = det(l) det(u) resulta, puesto que L y U son matrices triangulares y l ii = 1 i = 1,..., n, que det(p A) = det(u) = donde U = (u ij ). Si nos interesa calcular el valor de det(a) debemos saber el de det(p ) ya que det(p A) = det(p ) det(a). Esto puede hacerse en la descomposición LU simplemente definiendo una variable detp que se inicializa en 1 y que se multiplica por 1 cada vez que se intercambia una fila por otra en la escalerización de A. O sea, hacemos detp := detp cada vez que se intercambian filas. Al finalizar tenemos el valor de detp que será 1 ó 1 de donde resulta n i=1 det(a) = detp det(u) = detp u ii n u ii. i=1 1