Factorización de matrices

Transcripción

1 CAPÍTULO Factorización de matrices En este capítulo se estudian algunas de las técnicas más utilizadas para factorizar matrices, es decir, técnicas que permiten escribir una matriz como producto de dos o tres matrices con una estructura especial La factorización de matrices es importante por ejemplo cuando se quiere resolver sistemas de ecuaciones con un número muy grande tanto de variables como de ecuaciones, pero también cuando se quieren resolver sistemas simultáneos de ecuaciones En la sección se tratará la descomposición LU, en la sección se abordará la descomposición QR, en la sección se tratará la descomposición de Cholesky y en la sección se abordará aspectos relativos a la descomposición en valores singulares Descomposición LU En esta sección se estudia, quizás la factorización de matrices más sencilla pero igualmente muy útil Se trata de la factorización o descomposición LU, la cual está directamente relacionada con las operaciones elementales aplicadas a una matriz, para llevarla a una forma triangular inferior Como una motivación, suponga que se conoce cómo factorizar una matriz A m n en la forma () A LU donde L es una matriz triangular inferior (del inglés lower) m m y U es una matriz escalonada m n (del inglés upper) Entonces el sistema () Ax b puede resolverse de la siguiente forma: Usando (), el sistema () se puede escribir en la forma () LUx) b En este punto se introduce una nueva variable (por sustitución) y Ux, obteniendo así el nuevo sistema () Ly b Una vez en este punto, se resolve dicho sistema para la variable y mediante sustitución hacia adelante Como paso final, usamos sustitución hacia atrás para resolver el sistema () Ux y Es de anotar, que los sistemas () y () son relativamente fáciles de resolver dado que se trata de matrices de coeficientes triangulares inferiores y superiores respectivamente La factorización o descomposición LU es particularmente útil cuando se requiere resolver de manera simultánea varios sistemas de ecuaciones que difieren únicamente en la parte no homogénea El siguiente resultado da condiciones suficientes para la existencia de una tal factorización LU para una matriz cuadrada A Posteriormente se extenderá a matrices rectangulares

2 Descomposición LU Factorización de matrices Teorema (Factorización ) Sea A una matriz cuadrada n n Supongamos que A se puede reducir por filas a una matriz triangular superior, U aplicando únicamente operaciones elementales de eliminación (operaciones del tipo αf i + F j con i < j) Entonces existe una matriz triangular inferior L que es invertible y posee unos en su diagonal principal, tal que A LU Si A es invertible, entonces esta descomposición es única Demostración Por hipótesis, existen matrices elementales E E E k del tipo (αf i +F j i > j) y una matriz U (triangular superior) tales que De aquí se obtiene A E E E k U E ke k E E A U Ahora bien, por construcción, cada matriz elemental E E E k es triangular inferior y tiene unos en su diagonal principal, por consiguiente sus inversas E E E k y la matriz L E E E k también tienen las mismas características (ver ejercicio de la sección ) Lo que implica que se ha obtenido la factorización LU buscada para la matriz A es decir: A LU Para demostrar la unicidad de dicha factorización se procede como es usual Supóngase que se tienen dos factorizaciones LU para A de la forma A L U L U con U U matrices triangulares superiores y L L matrices triangulares inferiores con unos en su diagonal principal Como A es invertible las matrices U U también lo son, más aún sus inversas son igualmente triangulares superiores (ver ejercicio de la sección ) De esta última igualdad se obtiene entonces L L U U El lado izquierdo de esta igualdad es producto de matrices triangulares inferiores con unos en la diagonal, por tanto es triangular inferior y tiene unos en la diagonal principal Igualmente, el lado derecho es una triangulares superiores, pues es el producto de matrices triangulares superiores (ver ejercicio de la sección ) Entonces L L I de esto se sigue que L L y por ende, U U En el ejemplo se considerará una matriz no invertible, que posee infinitas descomposiciones LU Ejemplo Considere la matriz A 8 Aplique operaciones elementales, sin intercambio, para llevar a la matriz A a una forma escalonada 8 F +F F +F 9 F +F U

3 Factorización de matrices Descomposición LU Si se denota entonces con E, E y E a las matrices elementales provenientes de las operaciones elementales F + F F + F y F + F respectivamente, entonces se obtiene E E E A U A E E E ) U E E E U LU U En este caso esta factorización es única Observación Como sólo se han efectuado operaciones del tipo αf i + F j con i < j, αf i + F j) α)f i + F j y L es triangular inferior con unos ( s) en su diagonal principal La información sobre L se puede almacenar en aquellas posiciones donde se obtienen los ceros ( s) de U simplemente colocando los opuestos de los multiplicadores α en las operaciones elementales aplicadas del tipo αf i + F j con i < j En el ejemplo anterior 8 F +F F +F F +F 9 de donde se obtiene que L y U son tales que A LU Ejemplo Considere la matriz A Aplíquense las operaciones elementales, sin intercambio, para llevar la matriz A a una forma escalonada

4 Descomposición LU Factorización de matrices de donde se obtiene que L / /8 / / )F +F /)F +F )F +F /8)F +F /)F +F /)F +F y U 8 8 / / 8 8 / /8 9 / 8 8 / /8 9 - / / son matrices tales que A LU siendo esta factorización única Ejemplo Considere la matriz A Se procede entonces a aplicar operaciones elementales, sin intercambio, para llevar la matriz A a una forma escalonada )F + F )F + F de donde se obtiene que U En este caso A LU donde L no es única y L x con x arbitrario Considere ahora el caso en que se necesitan intercambio de filas para poder reducir una matriz Existe en este caso un procedimiento que permite extender la factorización LU, el cual hace uso de matrices permutación Como se recordará, el intercambio de dos filas de una matriz A se puede expresar como P ia, siendo P i la matriz permutación correspondiente a las filas de A que deseamos intercambiar Ahora bien Si durante la reducción de A a una forma escalón necesitamos realizar P P k permutaciones de filas, éstas puede hacerse al comienzo de todo el procedimiento y producir así la matriz P P P k El paso siguiente consiste entonces en aplicar la factorización LU a la matriz P A en lugar de la matriz A Es decir, nosotros buscamos ahora matrices L (triangular inferior) y U (triangular superior) tales que P A LU Ejemplo Halle la descomposición para la matriz A

5 Factorización de matrices Descomposición LU En este caso, para reducir A a una matriz triangular superior U es necesario primero una o varias operaciones elementales del tipo permutación de filas (también es posible usar operaciones del tipo αf i + F j con i > j) Una de tales operaciones de intercambio puede ser F Si se denota con P a la correspondiente matriz permutación se obtiene entonces P A A esta nueva matriz se le aplican los pasos descritos en los ejemplos anteriores pa obtener /)F + F / / de aquí se sigue que son matrices tales que L / y U P A LU / Teorema Sea A una matriz invertible n n Entonces existe una matriz de permutación P tal que P A LU donde L es una matriz triangular inferior y U es una matriz triangular superior Se tiene además, que para cada matriz P, L y U son únicas El siguiente teorema recoge ahora la formulación para la descomposición LU para matrices A rectangulares m n El esquema para una factorización LU para una matriz A m n está dado por la gráfica, la cual corresponde respectivamente a los casos m n m < n y m > n 8 Teorema Sea A una matriz rectangular m n que se puede reducir a una forma escalonada efectuando únicamente operaciones elementales de eliminación (operaciones del tipo αf i + F j con i < j) Entonces existe una matriz m m triangular inferior L con unos en la diagonal principal y una matriz m n, U con u ij si i > j tales que A LU 9 Ejemplo Encontre la descomposición LU para la matriz A 8 Aplique para ello, operaciones elementales, sin intercambio, para llevar a la matriz A a una forma escalonada )F + F 8 )F + F 9 )F + F

6 Descomposición LU Factorización de matrices A L U A L U A L U Figura Esquema de la factorización LU de donde se obtiene que son tales que A LU L y U El siguiente ejemplo, ilustra cómo hacer uso de la descomposición LU en el proceso de resolver resolver sistemas lineales de ecuaciones Ejemplo Considere el sistema de ecuaciones x + x + x x + x + 8x x + x + x cuya matriz de coeficientes corresponde a la matriz A del ejemplo y cuyo término independiente es b T ˆ De acuerdo con dicho ejemplo se tiene A 8 Ahora bien planteamos el sistema Lz b, esto es 8 >< z z + z >: z + z + z cuya solución es z LU

7 Factorización de matrices Descomposición LU Con esta solución planeamos el sistema Ux z, esto es el sistema 8 >< x + x + x x x >: x y cuya solución es x /; x / x / Ejercicios En los ejercicios al responda falso o verdadero justificando su respuesta Las operaciones elementales en las filas del tipo αf i + F j con i < j, producen matrices elementales triangulares inferiores Las operaciones elementales en las columnas del tipo αc i + C j con i < j, producen matrices elementales triangulares inferiores El producto de dos matrices elementales del mismo tamaño, es una matriz elemental La descomposición LU para cualquier matriz A es única En los ejercicios al demuestre la afirmación correspondiente Suponga que L i, (i ) son matrices triangulares inferiores: a) Muestre que el producto L L es una matriz triangular inferior b) Mueste que si L es invertible, entonces su inversa L es también una matriz triangular inferior (Sug: use inducción matemática) c) Muestre que si los elementos de la diagonal principal de L y L son tosdo iguales a (uno), entonces las matrices L L, L y L también tienen unos en su diagonal principal (Sug: use inducción matemática) Use el ejercicio anterior para demostrar que las afirmaciones son igualmente válidas para matrices triangulares superiores Use la factorización LU dada para resolver el sistema de ecuaciones lineales»»» a) x»»» b) x c) x d) x 9 8 Calcule la descomposición LU de la matriz A Use dicha descomposición para resolver el sistema Ax y, y T ˆ 8

8 Descomposición QR Factorización de matrices 9 Considere la matriz simétrica positiva definida S 9 y calcule su descomposición LU Descomposición QR En esta sección se hablará de la descomposición QR de una matriz, donde Q es una matriz con columnas ortogonales (ortonormales) y R es una matriz triangular inferior Dicha descomposición es de gran importancia para resolver problemas de mínimos cuadrados y tiene una estrecha relación con el cálculo de la inversa generalizada de una matriz En el caso de matrices cuadradas, dicha descomposición es la base de un algoritmo para determinar numéricamente y de forma iterativa, los valores propios de la matriz A (ver capítulo 8 de []) En primer lugar se hace aquí la discusión de la descomposición QR para una matriz A de rango columna completo En este caso, la factorización se basa en el proceso de ortogonalización de Gram-Schmidt descrito en teorema El siguiente teorema garantiza la existencia de una tal factorización en dicho caso y su demostración resume el proceso para encontrarla Teorema (Factorización QR (Parte I)) Sea A m n una matriz de rango columna completo n Entonces existen matrices Q m n con columnas ortogonales (ortonormales) y R n n triangular superior e invertible tales que A QR Demostración Considere la matriz A particionada por sus columnas, ésto es, A ˆ A A A n la cual por hipótesis es de rango columna completo n De aquí se tiene que el conjunto A A A n es una base de CA) (el espacio columna de A) Aplicando el proceso de ortogonalización de Gram-Schmidt (teorema ) a esta base se obtiene v A v A A ; v v ; v v v A A ; v v ; v v A ; v v ; v v v n n X A n A n ; v i v i; v i vi i 8

9 Factorización de matrices Descomposición QR Despejando de aquí cada vector columna A j obtenemos: Así que se puede escribir: A v A v + A ; v v ; v v A v + A ; v v ; v v + A ; v v ; v v A n n X A n ; v i v n + v i; v vi i i A ˆ A A A n A ; v A ; v v ; v v ; v A ; v v ; v A ˆ v v v n A Q R A n ; v v ; v A n ; v v ; v A n ; v v ; v A n ; v n v n ; v n que corresponde a la descomposición QR no normalizada de la matriz A Usando ahora los módulos de las columnas de la matriz Q para definir la matriz diagonal invertible D diagv v v n) De esta forma, se puede reescribir la igualdad A Q R como sigue: A Q R Q D DR h QR v v v v v n v n i v v A ; v v An ; v v ; v v ; v v v An ; v v ; v v n que corresponde a la descomposición QR normalizada de la matriz A 9

10 Descomposición QR Factorización de matrices Ejemplo Encuentre la descomposición QR para la matriz A ˆ A A A Aplicando el proceso de ortogonalización de Gram-Schmidt se obtiene De aquí se tiene que v A ; v A A ; v v ; v v + v A A ; v v ; v v A ; v v ; v v ; A v A v + v A v v + v Siguiendo ahora los delineamientos de la demostración del teorema anterior obtenemos: A ˆA A A [v v v ] 9/ / / / / / / / / / Q R Descomposicón no normalizada)

11 Factorización de matrices Descomposición QR En este caso, la matriz D está dada por D diag ` Entonces se puede escribir A ˆA A A Q D DR / / / / / / / / / / / / / QR (Descomposición normalizada) Suponga ahora que la matriz m n, A no tiene rango columna no completo, esto es, ρa) r con < r < n En este caso se tiene, que también existe una descomposición QR, pero la matriz Q en la factorización no normalizada contiene columnas nulas, como lo establece el siguiente teorema Teorema (Factorización QR (Parte II)) Sea la matriz A m n tal que ρa) r con < r < n Entonces existen una matriz Q m n con r columnas ortogonales no nulas y el resto nulas, y una matriz R n n triangular superior invertible tales que A Q R (Descomposición no normalizada) La matriz A también se puede descomponer de manera normalizada en la forma A QR r donde Q m r tiene columnas ortogonales (ortonormales) no nulas y R r r n es triangular superior de orden r Las r columnas no nulas de Q respectivamente las r columnas de Q conforman una base para CA) Demostración Si se siguen los pasos de la demostración del teorema se obtiene la descomposición QR no normalizada para A Esto es, A Q R En este caso sin embargo, Q tendrá r columnas ortogonales no nulas y n r columnas nulas Ahora, para definir matriz diagonal D se usan los módulos de la columnas no nulas Q respetando sus posiciones y unos ( s) en el resto de componentes de la diagonal de D La matriz Q buscada corresponde entonces a la matriz formada por las columnas no nulas de Q D igualmente R r se obtiene eliminado de la matriz DR las filas con índices iguales a las columnas nulas de Q El siguiente ejemplo ilustra el proceso para calcular la descomposición QR en el caso de matrices que no son de rango columna completo Ejemplo Encontrar la descomposición QR para la matriz A ˆ A A A A

12 Descomposición QR Factorización de matrices Para ello se aplican los pasos del método de ortogonalización de Gram-Schmidt con las columnas de A esto es: v A ; v A A ; v v ; v v A + v 9 ; v A A ; v v ; v v A ; v v ; v v A 9 v + v v A v + v v Despejando los vectores A j s, en términos de los vectores v j s, como en el ejemplo se obtiene entonces A ˆ A A A A ; 9/ / / / / 9/ / / Q R Si se toma ahora la matriz diagonal D, cuyos elementos D ii corresponden a los a los módulos de las i-ésimas columnas no nulas h de Q Para las columnas nulas de Q se considera D ii En el ejemplo se i tiene entonces, D diag y de aquí se sigue que A ˆ A A A A Q R Q D DR / / / / / / / / / / / / 9/ / / Esto es,

13 Factorización de matrices Descomposición QR A / / / 9/ / / / / / / / / / / / / / / / 9/ / / / / / / / / / / QR La matriz Q se obtiene al eliminar la tercera columna (columna nula) de Q D mientras que R se obtiene al eliminar la correspondiente tercera fila de DR El siguiente resultado presenta la relación existente entre la descomposición QR y la inversa generalizada de una matriz A En este punto de la discusión, se suguiere al lector a recordar los conceptos dados en el capítulo sobre inversas condicionales (A c ), inversa generalizada (A + ), mejor solución aproximada (MSA) y solución mínima cuadrada (SMC) Teorema Sea A m n una matriz real Si ρa) n entonces existe una matriz Q, m n con columnas ortonormales y una matriz R triangular superior e invertible n n tales que además se tiene que A QR A + R Q T Si ρa) r < n entonces existe una matriz Q, m n con las primeras r columnas no nulas ortonormales y una matriz R triangular superior n n, ambas de rango r tales que además se tiene que A QR A + R T RR T ) Q T Demostración Suponga que A es una matriz m n de rango columna completo Según lo establece el teorema, existen matrices Q m n y R n n con las condiciones citadas tales que A QR De otra parte, se sabe que A + A T A) A T (teorema ()) De aquí se sigue que: A + A T A) A T R T Q T QR) R T Q T R R T ) R T Q T R Q T

14 Descomposición QR Factorización de matrices Lo que demuestra el inciso Suponga ahora, que A no tiene rango columna completo, es decir, suponga, que ρa) r; < r < n Según el teorema existen matrices Q r n y R r n con las condiciones requeridas tales que A QR Ahora, aplicando el teorema (con B Q y C R), así como el literal (iv) del teorema, se obtiene entonces A + R T RR T ) Q T Q) Q T R T RR T ) Q T (puesto que Q T Q) I r) Nota Con respecto a los resultados anteriores se puede anotar que: Si A m n es una matriz de rango r < n se tiene, usando la notación del teorema anterior, que A + A R T RR T R De acuerdo con el teorema, todo sistema de ecuaciones Ax y tiene una única MSA dada por x A + y Puesto que el conjunto de todas la soluciones mínimas cuadradas del sistema Ax y están dadas por (ver capítulo ) Del literal anterior se sigue: x A + y + I A + A)h; h R n x R T RR T ) Q T y + I R T RR T ) R)h; h R n y de aquí, que el conjunto de todas la soluciones mínimas cuadradas del sistema Ax y está dada por las soluciones Rx Q T y Ejemplo Considere el sistema de ecuaciones lineales Ax y siendo A y y De acuerdo con el ejemplo ρa) y las matrices / / / / 9/ / / Q / y R / / / / / / / son tales que A QR

15 Factorización de matrices Descomposición QR Entonces A + R T RR T ) Q T, (ver teorema ), es decir, A + y el conjunto de todas las SMC (ver nota ) está dada por las soluciones del sistema Rx Q T y / / / es decir por la expresión x / / / + h h R En particular, si h /8 se obtiene la MSA x A + y 8 9 Ejercicios En los ejercicios al, responda falso o verdadero justificando su respuesta Si Q es una matriz rectangular cuyas columnas son orgonormales entre sí, entonces Q T Q I Demuestre que si A m n tiene rango n y A QR donde Q tiene columnas ortogonales y R es una matriz triangular superior con unos en su diagonal principal, entonces Q y R son únicas Encuentre la matriz triangular R tal que A QR en cada uno de los siguientes casos a) A Q

16 Descomposición de Cholesky Factorización de matrices b) A Q Calcule la descomposición QR de las matrices (a) A (b) B (c) C (d) D Descomposición de Cholesky A diferencia de las factorizaciones vistas hasta ahora, la factorización o descomposición de Cholesky se aplica sólo a matrices simétricas positivas definidas y ésta consiste en expresar una tal matriz como producto de una matriz triangular superior y por su transpuesta En forma más precisa tenemos 8 Teorema (Factorización de Cholesky) Si A n n es una matriz simétrica positiva definida, entonces existe una única matriz real T [t ij] n n triangular superior con t ii > i n), tal que Además, A T T T A T [Π n i t ii] Demostración La demostración la hará usando inducción sobre el orden de la matriz Primero se demuestra que la afirmación es válida para n en efecto:» α β Sea A una matriz simétrica positiva definida, entonces se tiene que α > y A αθ β > β θ» a b (teorema ) Se necesita mostrar que existe una única matriz triangular superior T con c elementos de la diagonal positivos, tal que A T T T esto es:»»»» α β a a b a ab β θ b c c ab b + c De ésto se tiene que a α de donde, a α a > ) ab β de donde, b β y α p αθ β b + c θ de donde, c c > ) α

17 Factorización de matrices Descomposición de Cholesky ésto es,» α β A β θ α β α p αθ β α α β α p αθ β α T T T además, se tiene que A t t ) Suponga ahora que la afirmación es cierta para n k ésto es, sea B k k una simétrica positiva definida Supongamos que existe una única matriz triangular superior U k k tal que A U T U y que A U [Π k i u ii] (hipótesis de inducción) Se demuestra entonces ahora, que la afirmación es cierta para n k + Considere para ello una matriz A k+) k+) simétrica positiva definida Se puede escribir la matriz A por bloques en la forma» à a A con à k k a k y θ R θ a t La matriz à es simétrica positiva definida (teorema ), entonces por hipótesis de inducción, existe una única matriz triangular superior U k k tal que à U T U y à U [Π k i u ii] Considere ahora la matriz triangular superior T de tamaño k + ) k + ), con elementos de la diagonal principal positivos y escrita por bloques en la forma» U y T z donde y k y z R + deben ser escogidos adecuadamente tales que, A T T T ; esto es, tales que:»»» à a U T U y A a T θ y T z z» U T U U T y y T U y T y + z Igualando término a término se debe tener que U T y a lo que implica que y U T ) a Además se tiene que y T y + z θ lo que implica que z θ y T y) / A T U z h i h i Π k i u ii z Π k+ i t ii A continuación se verán dos procesos para calcular la factorización de Cholesky El primero se basa en la definición propia de la factorización de Cholesky, mientras que el segundo usa resultados sobre diagonalización de matrices positivas definidas Proceso A cálculo de la factorización de Cholesky):

18 Descomposición de Cholesky Factorización de matrices Sea A una matriz simétrica n n positiva definida Puesto que A T T T con T una matriz triangular superior con elementos positivos en su diagonal principal, se debe tener que: A a a a a n a a a a n a a a a n a n a n a n a nn t t t t t t t n t n t n t nn Cálculos directos muestran entonces que se debe cumplir que: t a t j aj t aj a ; j n t ii a ii P i k t ki) / ; i n t ij Xi [a ij t kit kj]; j > i i n t ii k t ij ; j < i i n t t t t n t t t n t t n t nn Observación Con respecto a este método y al cálculo de los elementos no nulos t ij de la matriz triangular T se puede decir que: t ii es igual al elemento a ii menos la suma de los cuadrados de los elementos ya calculados de la i-ésima columna de T Es decir, Xi t ii a ii t ki i n k El producto t ii t ij es igual a a ij menos la suma del producto de los elementos ya calculados de las i-ésima y j-ésima columnas de T Es decir, Xi t ij t ii a ij t kit kj; j > i i n k 9 Ejemplo Siguiendo el esquema anterior, encuentre la descomposición de Cholesky para la matriz simétrica positiva definida A 8 Cálculos directos muestran que: 8

19 Factorización de matrices Descomposición de Cholesky Es decir, t a ; t a ; t a t p a t ; a tt t ) t a tt ) t t t p a t t 8 ; t a tt tt t ) ; t a t p a t t t p ) T es la matriz triangular superior tal que A T T T Ejemplo Siguiendo con el esquema anterior, encuentre la descomposición de Cholesky para la matriz simétrica positiva definida A 9 Cálculos directos muestran que: Es decir, t a ; t a t t p a t ; a tt t ) ) t ; t a t p a t t p 9 ) ) T es la matriz triangular superior tal que A T T T Proceso B cálculo de la factorización de Cholesky): De acuerdo con los resultados presentados en el capítulo se tiene que una matriz simétrica A, es positiva definida, si existe una matriz triangular superior P tal que P T AP I (ver también el teorema ) De aquí que A P T ) P P ) T P Así las cosas, se puede encontrar una tal matriz P T usando los pasos ilustrados en el ejemplo, es decir, planteando la matriz ˆ A I y realizando de manera adecuada y simultáneamente operaciones elementales en las filas y columnas de A y en las filas de I (sin hacer intercambios de filas) 9

20 Descomposición de Cholesky Factorización de matrices Nota Existe una relación entre la factorización LU para matrices positivas definidas y la descomposición de Cholesky En efecto, si A es simétrica positiva definida entonces A se puede expresar mediante A T T T con T una matriz triangular superior con elementos positivos en la diagonal principal Ahora bien, sea D diag t t t nn) entonces se tiene que: A T T T T T D DT T T D )DT ) LU Ejemplo Considere la matriz simétrica positiva definida A 9 Del ejemplo se tiene que A 9 Tomando D se tiene que A / / / / 9 LU T T T Ahora bien, suponga que se desea hallar las soluciones del sistema de ecuaciones lineales Ax y siendo A una matriz simétrica y positiva definida Sea T triangular positiva tal que A T T T, entonces Ax y T T T x y T x T T ) y es decir, si se conoce la factorización de Cholesky para una matriz A T T T, la solución del sistema Ax y se reduce a encontrar la solución del sistema triangular superior T x z con z T T ) y Ejemplo Considere el sistema de ecuaciones lineales x + x x x + x + x x + x + 9x

21 Av i σ iu i i s Factorización de matrices Descomposición en valores singulares Puesto que la matriz de coeficientes es justo la matriz del ejemplo, la matriz aumentada del sistema se puede reducir mediante multiplicación del sistema por la matriz T T (ver ejemplo ), para obtener: ˆ A y 9 De esto último se sigue que x x x + x + x x ˆ T z Ejercicios Considere la matriz simétrica positiva definida S 9 Cholesky (compare con el problema 9 de la seccion de ejercicios ) y calcule sus descomposición de Descomposición en valores singulares SVD) En esta sección se abordará el estudio de la descomposición de una matriz rectangular A la cual involucra los valores y vectores propios de la matrices simétricas AA T y A T A Como se recordará dichas matrices son positivas semidefinidas y por ello sus valores propios son no negativos Teorema Para toda matriz A m n se tiene que existen matrices ortogonales U m m y V n n y una matriz diagonal Σ m n, con elementos Σ ij, si i j y Σ ii : σ i, y σ σ σ s, en donde s mín {m n} tales que A m n U m mσ m nv T n n Los números σ σ σs son los valores propios de A T A (quizás agregando algunos ceros) y los vectores propios asociados son las columnas de la matriz V [ v v v n ] Además, lo números σ σ σs son igualmente los valores propios de AA T (quizás agregando algunos ceros) y los vectores propios asociados son las columnas de U [ u u u m ] Además de tiene las siguientes relaciones entre estos vectores u T i A σ iv T i

22 Descomposición en valores singulares Factorización de matrices Demostración Suponga que A m n tiene rango r con < r < s La matriz simétrica S AA T m m es no negativa y por tanto existe una matriz ortogonal U m m tal que σ U T AA T U D σ σm donde σ σ σm son los valores propios de S AA T y las columnas de U [u u u m] son vectores propios de S correpondientes a dichos valores propios: AA T u i Su i σ i u i; i m Como r ρa) ρaa T ) entonces σ σ σr > Particione ahora la matriz U como U [ U U ] con U m r Luego U U T AA T T U AA T ˆ U U es decir, U T U T AA T U U T AA T U U T AA T U U T AA T U» D r σ σ U T AA T U σm Esto implica que U T AA T U A T U ) T A T U ) de donde U T A y A T U También se tiene que U T AA T U D r o sea: Esto significa que la matriz Dr U T AA T U Dr I A T U Dr ) T A T U Dr ) V A T U D r n r tiene columnas ortonormales V T V I) Sea V n n r) tal que la matriz V ˆ V V n n es ortogonal Se requiere ahora verificar que» U T Dr AV Σ

23 Factorización de matrices Descomposición en valores singulares En efecto, de una parte: U T AV U T U T y de otra parte, U T A Así mismo, V T V I A ˆ U T AV U T AV V V U T AV U T AV V T V T» I I ˆ V V lo que implica que V T V A T U Dr ) T V de donde y finalmente, En consecuencia, U T AV U T AV U T AA T U Dr DrD r D r σ σ σ m» U T Dr AV Σ V T V V T V V T V V T V Nota Observe que igualmente, AV AA T U D r Av i σ iu i i r A T U V D r A T u i σ iv i u T i A σ iv T i i r El siguiente proceso ilustra cómo calcular la descomposición en valores singulares de una matriz A m n Se supondrá en este caso, que m n Algoritmo Formule S AA T m m Encuentre los valores propios de S : σ σ σm Encuentre un conjunto ortonormal u u u m de vectores propios de S y construya la matriz U [ u u u m ](ortogonal) y la matriz diagonal D diagσ σ σ m) Si r ρa); D r diagσ σ σ r) Haga V A T U Dr siendo U [ u u u r ], las primeras r columnas de U Encuentre una matriz V n n r) tal que la matriz V [ V V ] n n sea ortogonal * Otra forma de () es trabajar con la matriz A T A

24 Descomposición en valores singulares Factorización de matrices» Ejemplo Considere la matriz A singulares usando el proceso esbozado anteriormente Calculando directamente se obtiene la matriz S AA T y σ 9 (σ σ ) ; ρa), calcule la descomposición en valores» 9 Calcule ahora los vectores propios asociados a estos valores propios: Para σ se tiene el sistema S I)X, es decir el sistema»»» x cuyo conjunto solución es de la forma j» B x x ff : x» Como un representante de los σ-vectores propios se puede tomar entonces u» puede tomar a u como σ -vector propio Ahora considere la matriz ortogonal y la matriz diagonal» U [ u u ]» D diagσ σ )» Puesto que r ρa) se tiene que D r diagσ σ ) Con las matrices definidas hasta ahora se tiene que V A T U Dr»» / / Si se considera ahora la matriz ortogonal V ˆ V V se tiene que:» U T AV» / / Columnas ortonormales Σ, cuyos valores propios son: σ con V Análogamente se

25 Factorización de matrices Descomposición en valores singulares Ejemplo Considere la matriz A valores singulares: De nuevo se calcula la matriz S AA T S AA T ; ρa), calcule ahora la descomposición en cuyos valores propios los se obtienen de manera usual, es decir, resolviendo la ecuación S λi, esto es, S λi λ λ λ λ )λ ) Los valores propios de S son entonces σ σ y σ Algunos cálculos usuales permiten elegir a los vectores u ; u y u como vectores propios ortonormales asociados a σ σ y σ respectivamente Considere ahora la matriz ortogonal / / U ˆ u u u / / / y las matrices diagonales (ρa) ) D diagσ σ σ ) / / / D r Se definine ahora la matriz V A T U Dr, esto es, / / V / / / / / / Con estas matrices se tiene que: / / / / / / / / / / / / / / / / U T AV V Σ /

26 Descomposición en valores singulares Factorización de matrices Ejercicios Calcule la descomposición en valores singulares de las matrices»» (a) A (b) B (c) C (d) D