A.M. Urbano, R. Cantó, B. Ricarte Institut de Matemàtica Multidisciplinar, Universitat Politècnica de València, E Valencia

Transcripción

1 Factorización de Cholesky de matrices singulares A.M. Urbano, R. Cantó, B. Ricarte Institut de Matemàtica Multidisciplinar, Universitat Politècnica de València, E-460 Valencia Resumen Es conocido que toda matriz simétrica definida positiva admite una única factorización de Cholesky, mientras que si la matriz es semidefinida positiva dicha factorización no es, por regla general, única. En este trabajo vamos a demostrar que existe una única factorización de Cholesky de rango completo en forma escalonada para las matrices simétricas semidefinidas positivas. Los resultados obtenidos pueden extenderse a matrices rectangulares A sin rango completo para obtener la factorización de Cholesky de rango completo de la matriz simétrica semidefinida positiva A T A. Además presentamos dos algoritmos que permiten obtener la factorización de Cholesky de A T A sin necesidad de hacer el producto de ambas matrices. Sección en el CEDYA 011: ALAMA 1. Introducción Dada una matriz A R n n con rank(a) r < n, una factorización de la forma A F U, donde F R n r, U R r n y rank(f ) rank(u) r recibe el nombre de factorización de rango completo de A. Dicha factorización no es única, pero sí que lo es la factorización de rango completo en la que la matriz U está en forma escalona reducida superior unitaria. Cuando la matriz A es simétrica definida positiva es conocido que existe una única factorización de Cholesky A LL T, donde L es triangular inferior con diagonal positiva, pero si A es simétrica semidefinida positiva esta factorización no es única en general. Uno de los objetivos del trabajo es demostrar que existe una única factorización de Cholesky de rango completo (factorización CRC) de la matriz A, de la forma A LL T, donde L R n r es escalonada inferior y con la entrada principal de cada columna positiva. Dicha factorización la obtenemos aplicando a la matriz A el algoritmo de quasi-gauss sin intercambio de filas []. Este resultado puede aplicarse para obtener la factorización CRC de la matriz semidefinida positiva A T A, donde A es una matriz rectangular sin rango completo. Además, presentamos dos algoritmos que permiten obtener dicha factorización sin realizar el producto de matrices A T A.

2 . Factorización CRC de matrices simétricas semidefinidas positivas Dada una matriz A R n n simétrica semidefinida positiva y con rank(a) r < n, en la siguiente proposición se obtiene la factorización CRC de A sin realizar intercambio de filas aplicando el algoritmo de quasi-gauss []. Para ello supondremos, sin pérdida de generalidad, que A no tiene filas ni, por la simetría, columnas nulas. En caso contrario, si las filas de índices i 1, i,..., i s fuesen nulas premultiplicando y postmultiplicando A por las matrices I {i 1,i,...,i s } y ( ) I {i 1,i,...,i s } T, respectivamente, obtenidas a partir de la matriz identidad de orden n sin las filas de índices i 1, i,..., i s, obtenemos una matriz Ā sin filas ni columnas nulas, Ā I {i 1,i,...,i s } A (I ) {i T 1,i,...,i s } A partir de la factorización CRC de Ā obtenemos la correspondiente factorización de la matriz A, es decir ( ( ) ) Ā L Ā L T Ā A I {i T ( ) 1,i,...,i s } LĀ L T Ā I{i 1,i,...,i s } LL T Proposición 1. Consideremos la matriz A R n n simétrica semidefinida positiva con rank(a) r y sin filas ni columnas nulas. Existe la factorización CRC de A, A LL T, donde L R n r es escalonada inferior y con la entrada principal de cada columna positiva. Demostración: Como A es semidefinida positiva y no tiene filas ni columnas nulas, todos los elementos de la diagonal principal son positivos. Supongamos que podemos aplicar el algoritmo de Gauss sin intercambio de filas hasta la iteración (k 1)-ésima y que el pivote k-ésimo es nulo, es decir R k 1 E (k 1) E (k ) E (1) A l 11 l 1... l 1k 1 l 1k l 1k+1... l 1n l... l k 1 l k l k+1... l n l k 1k 1 l k 1k l k 1k+1... l k 1n 0 l kk+1... l kn l kk+1 l k+1k+1... l k+1n... l kn l k+1n... l nn con l ii > 0 para i 1,,..., k 1. A partir de la relación existente entre los menores de A y de R k 1 (ver [1]) tenemos que para j k + 1, k +,..., n, se verifica: det (A[1,,..., k, j]) det (R k 1 [1,,..., k, j]) l kj k 1 i1 l ii 0,

3 por lo que l kj 0 para j k + 1, k +,..., n. Es decir la fila k-ésima de la matriz R k 1 es nula, por lo que podemos quitarla aplicando el algoritmo de quasi-gauss. Como consecuencia, siempre que un pivote sea nulo también serán nulos todos los elementos de su fila. Al quitar dicha fila mediante el algoritmo de quasi- Gauss obtenemos una nueva matriz R k 1 a la que podemos seguir aplicando el algoritmo de Gauss hasta llegar a la matriz en forma escalonada superior y con rango completo de la que obtendremos el factor escalonado superior de Cholesky L T. Notar que la entrada principal en cada columna es el pivote que utilizamos en cada iteración, por lo que es siempre positivo. 3. Factorización CRC de matrices rectangulares Sea A R n m con rank(a) r < mín{n, m}, entonces A T A R m m es simétrica semidefinida positiva. Aplicando la Proposición 1 obtenemos su factorización CRC, A T A LL T, sin realizar intercambio de filas. El problema principal para obtener la factorización de Cholesky, general o de rango completo, de A T A consiste en realizar el producto de las matrices puesto que el número de condición de A T A es el cuadrado del número de condición de la matriz A. Por ello, vamos a presentar dos algoritmos que permiten obtener la factorización de Cholesky de rango completo sin necesidad de calcular previamente el producto correspondiente Matriz con rango completo por columnas Supongamos en primer lugar que la matriz A R n m tiene rango completo por columnas, esto es, rank(a) m. Como consecuencia A T A R m m es simétrica definida positiva y, por tanto, admite una única factorización de Cholesky de la forma A T A LL T, L R m m triangular inferior invertible. La obtención de la matriz L sin hacer el producto A T A pude hacerse teniendo en cuenta el siguiente resultado. Proposición. Sea A R n m una matriz con rango completo por columnas y L (l ij ) su factor triangular inferior de Cholesky. Se verifica l ij < A j, A i > j 1 k1 l jkl ik l jj i 1 lii A i l it para i 1,,..., m j 1,,..., i 1 donde A i representa la columna i-ésima de la matriz A, i 1,,..., m.

4 Demostración: Como L es el factor triangular inferior de Cholesky se verifica que A T A LL T. Supongamos que e i representa el i-ésimo vector canónico. Para i 1,,..., m tenemos e T i A T Ae i e T i LL T e i Ae i L T e i A i De manera análoga para i 1,,..., m y j 1,,..., i 1, obtenemos Por tanto A(e j + e i ) L T (e j + e i ) A j + A i L T j + L T i i lit (1) A j + A i (l j1 + l i1 ) + (l j + l i ) + + (l jj + l ij ) + lij lii j j i j ljt + l jk l ik + lit A j + l jk l ik + A i k1 De donde, para j 1,,..., i 1, obtenemos l ij A j + A i A j j 1 k1 l jkl ik A i l jj Finalmente, y a partir de la ecuación (1) tenemos k1 < Aj, A i > j 1 k1 l jkl ik l jj i 1 lii A i l it Sea A R n m con rango completo por columnas. A partir de la Proposición obtenemos los dos algoritmos siguientes que calculan el factor triangular inferior de Cholesky L R m m tal que A T A LL T. ALGORITMO 1 (Cálculo de la matriz L por filas) l 11 A 1 For i, 3,..., m For j 1,,..., i 1 end l ii A i i 1 l it end l ij < A i, A j > j 1 k1 l jkl ik l jj

5 Donde el sumatorio para j 1 es nulo, es decir 0 k1 l jkl ik 0. ALGORITMO (Cálculo de la matriz L por columnas) l 11 A 1 For i 1,, 3,..., m 1 For j i + 1, i +,..., m end l i+1i+1 A i+1 i k1 l i+1k end l ji < A j, A i > i 1 l jtl it l ii También en este caso el sumatorio es nulo para i 1. La ventaja del Algoritmo respecto del Algoritmo 1 es que el cálculo de los elementos l ji puede hacerse mediante computación en paralelo. Ejemplo 1. Calcular el factor triangular inferior de Cholesky de la matriz A T A sin hacer el producto, siendo A la matriz A Aplicando el algoritmo por filas tenemos l 11 A 1 8 l 1 < A 1, A > 8 l 11 l A l1 l 31 < A 1, A 3 > 4 l 11 8 l 3 < A, A 3 > l 1 l 31 l 55 l 33 A 3 l31 l 3 Por tanto el factor triangular inferior de Cholesky de A T A es 0 0 L / / 0. / 55/

6 3.. Matriz sin rango completo Supongamos ahora que la matriz A R n m no tiene rango completo por columnas, esto es, rank(a) r < mín{n, m}. Se calcula en primer lugar la factorización de rango completo de A de la forma A F U, donde F R n r, U R r m en forma escalonada reducida superior unitaria y rango(f ) rango(u) r. Como la matriz F tiene rango completo por columnas, F T F es simétrica definida positiva. Aplicando la Proposición, su factor inferior de Cholesky L F puede calcularse sin necesidad de realizar el producto F T F. A partir de aquí es inmediato comprobar que el factor escalonado inferior de Cholesky de la matriz A T A se obtiene de la forma L U T L F Ejemplo. Calcular el factor escalonado inferior de Cholesky de A T A sin hacer el producto, siendo A la matriz A La factorización de rango completo A F U, donde U está en forma escalonada reducida superior unitaria es, / 0 A }{{}}{{} U F Notar que la matriz F es la matriz del ejemplo 1, por tanto el factor escalonado inferior de Cholesky de A T A es 0 0 L U T L F / / 0 / / 0. / 55/ El método anterior presenta el inconveniente de tener que hacer en primer lugar la factorización de rango completo de la matriz A para obtener las columnas linealmente independientes. Podemos evitarnos este paso teniendo en cuenta el siguiente comentario: Comentario: Supongamos que r 1 es la primera columna de la matriz A R n m linealmente dependiente de las r 1 1 columnas anteriores. En este caso, la

7 columna r 1 de la matriz A T A será también linealmente dependiente de las r 1 1 columnas anteriores y como consecuencia la fila r 1 será dependiente de las r 1 1 filas anteriores. Por tanto, si aplicamos el algoritmo de Gauss a la matriz A T A, la fila r 1 que se obtiene es nula. Así pues, al aplicar alguno de los algoritmos anteriores a la matriz A inicial obtendremos que l r1 r 1 0, lo que implica que l jr1 0 para j r 1 + 1,..., m. Como consecuencia dicha columna no formará parte de la matriz escalonada inferior L que estamos calculando. El proceso continua con el cálculo de los elementos de las filas o columnas siguientes teniendo en cuenta que l jr1 0 para j r 1 + 1,..., m. Ejemplo 3. Consideremos la matriz A del ejemplo anterior A Aplicando el algoritmo por filas: l 11 A 1 8 l 1 < A 1, A > 8 l 11 l A l1 l 31 < A 1, A 3 > l 11 8 l 3 < A, A 3 > l 1 l 31 l l 33 A 3 l31 l 3 0. Notar que l 33 0 implica que la tercera columna de la matriz A T A es combinación lineal de las dos primeras. Como consecuencia dicha columna puede ser quitada al calcular el factor triangular inferior de Cholesky para que la factorización sea de rango completo. Ahora seguimos calculando los elementos que

8 faltan, teniendo en cuenta que l j3 0, con j > 3, luego l 41 < A 1, A 4 > 4 l 11 8 l 4 < A, A 4 > l 1 l 41 l l 43 0 l 44 L A 4 l 41 l 4 l / / 0 / / 0 / 55/. Agradecimientos Trabajo financiado por el proyecto de la DGI MTM y el Programa de Apoyo a la Investigación y Desarrollo (PAID-06-10) de la Universitat Politècnica de València. Bibliografía [1] T. Ando, Totally positive matrices, Linear Algebra Appl. vol. 90 (87), [] R. Cantó, B. Ricarte, A. M. Urbano, Full rank factorization and Flanders Theorem, Electronic Journal of Linear Algebra, vol. 18 (009),