ALN - SVD. Definición SVD. Definición SVD (Cont.) 29/05/2013. CeCal In. Co. Facultad de Ingeniería Universidad de la República.

Transcripción

1 9/05/03 ALN - VD CeCal In. Co. Facultad de Ingenería Unversdad de la Repúblca Índce Defncón Propedades de VD Ejemplo de VD Métodos para calcular VD Aplcacones de VD Repaso de matrces: Una matrz es Untara s sus columnas forman una base ortonormal de vectores de. AC C m AR m xm m xm Una matrz es Ortogonal s sus columnas forman una base ortogonal de vectores de. R m de Defncón VD AC m xn ea m, n enteros postvos y Entonces una descomposcón en valores sngulares de A, es una factorzacón AU V La nversa de una matrz untara es gual a su transpuesta Las transformacones por matrces untaras conservan la norma y el producto escalar al que y son untaras U C m xm V C n xn es dagonal de tamaño m x n. Defncón VD (Cont.) Los elementos no nulos de la dagonal de son los VALORE INGULARE de la matrz A e denotan como A los vectores u,, u m y v,, v n que forman las columnas de U y V respectvamente, se les llama: vectores sngulares de A por la zquerda y por la derecha. A tene entradas reales se camba matrz untara por matrz ortogonal Gráfcamente Las trasformacones untaras no afectan la norma de los vectores (son rotacones). En la fgura se puede ver el efecto de aplcar la matrz M al círculo undad. Luego se muestra cómo llegar a M desde el círculo undad a través de la VD.

2 9/05/03 eorema de VD m xn AF oda matrz admte una descomposcón en valores sngulares. Además, los valores sngulares están determnados en forma únca. Los valores sngulares de son las raíces cuadradas postvas de los valores propos de A A y tambén de los de AA ( estamos en los reales A pasa a ser A ) Dem: A = UΣV t 0 0 A t A = VΣ t U t UΣV t = V(Σ t Σ)V t AA t = UΣV t VΣ t U t = U(ΣΣ t )U t AC m xn Propedades de valores sngulares rang(a) = cantdad de valores sngulares de A dstntos de 0 El valor absoluto de det(a) = sendo A cuadrada de tamaño n..... n σ n 0 entonces σ /σ n es el número de condcón de la matrz n n xn AC es nvertble y son sus valores sngulares. Entonces los valores sngulares de A - son n odo elemento de la dagonal endo endo u v Au v A v u cumple la columna U correspondente a la columna V correspondente a

3 9/05/03 AU V es una descomposcón de A en valores sngulares y rang(a) = r, entonces A r u v u y v son los vectores columna de U y V respectvamente La descomposcón se puede representar como la suma de r matrces de rango. u v Este térmno trpleta sngular. es conocdo tambén como El rango de la matrz A, nos da el máxmo número de trpletas necesaras. Aproxmacón de A por A k A k es la mejor aproxmacón de A, para cualquer norma untaramente nvarante La norma es untaramente nvarante eorema: Dada la VD de A con rango r, p= mn(m, n) y r < p ea: A Entonces k k r(mn ) k u v F con k < r A A A k F k p Métodos para calcular VD en matrces densas El método de Golub - Kahan Rensch Es un método efcaz basado en la teracón QR. e dvde en fases. Rensch Prmera fase Prmera fase e trata de reducr la matrz A a una bdagonal medante transformacones ortogonales de ouseholder. Q A 0 d f d 0 f 3 0 fn d n Rensch Prmera fase Q Q Q n n mxm nxn 3

4 9/05/03 Rensch egunda fase Rensch egunda fase Una vez bdagonalzada la matrz A se hacen 0 los elementos que no están en la dagonal prncpal con un algortmo que obtenga Q Q dag (,, ) n son matrces ortogonales de nxn y La descomposcón en valores sngulares de A es Donde: A U 0 V U Q dag ( Q ), I n V m Rensch egunda fase Para obtener los valores sngulares de la matrz bdagonal, se procede teratvamente U V K K Uk y Vk son ortogonales K K Otros métodos A partr de la prmer propedad presentada, (los valores sngulares son guales a las raíces cuadradas de los valores propos no nulos de A A) e pueden usar otros métodos teratvos Otros métodos En vez de calcular los valores sngulares drectamente, se podría calcular los valores propos de una nueva matrz que sea = A A ene un costo extra (el cálculo de A A) Usando bblotecas como LA o LAPACK, estas operacones están optmzadas Observacones sobre estos métodos No son óptmas para matrces grandes o matrces dspersas. En estos métodos se aplcan a transformacones ortogonales (de semejanza), como ouseholder o Gvens (sobre una matrz dspersa). Al emplear esas transformacones, se ncurre en fll-n de la matrz. 4

5 9/05/03 Observacones sobre estos métodos Requeren mucha cantdad de memora para su almacenamento Computan todas las trpletas, cuando a veces sólo se desean unas pocas de las trpletas más grandes O valores propos Métodos VD matrces dspersas IVD (ubspace Iteraton) RVD (race mnmzaton) LAVD (ngle-vector Lanczos) LVD (lock Lanczos) Aplcacones VD Una herramenta común para resolver sstemas de ecuacones mal condconadas. erramentas de regularzacón. Aplcacones cálculo de nversa e calcula en forma rápda la nversa de una matrz A (puede ser mal condconada) A - = V - U Recordar que U y V son ortogonales y dagonal Aplcacones mínmos cuadrados e quere resolver Ax = b e multplca por A quedando A A =A b e calcula la svd de A = UDV Es útl cuando la matrz A no es cuadrada (sería un sstema ndetermnado) Una magen a color es una matrz de (n,m,3) números, a cada píxel se le asgna un vector en R 3, el vector representa la composcón RG del color Por ej. el vector (,0,0) representa el color rojo. El píxel se verá 5

6 9/05/03 Una magen en escala de grses es una matrz de n x m, a cada píxel se le asgna un valor entre 0 y k (donde k son los dstntos nveles de grs): Este enfoque permte aplcar VD al tratamento de bdmensonales Una magen contene nformacón redundante, o sea, que puede ser elmnada sn que el efecto vsual sea notable. e podría susttur A por otra matrz de rango prefjado más pequeño Descomponer la matrz de magen y luego comprmr la nformacón utlzando solo algunos valores sngulares dependendo de la caldad que deseamos obtener. Para recuperar la matrz orgnal después de aplcarle la VD podemos utlzar la defncón de suma de trpletas. Para una magen de 600x800 pxeles, el rango será 600. En vez de sumar todos los valores sngulares, podemos reconstrurla hasta un número de valores sngulares entre y el rango de la matrz ( < k < r). Mentras mayor sea k mejor será la caldad de magen pero menor la compresón, y vceversa. e desea encontrar un valor de k el cual nos permta comprmr la magen sn perder mucha nformacón vsual Una magen de 480 x 640 pxels requere almacenar elementos Esto es, aproxmadamente, 0.3 Mbytes. Para almacenar A k se necesta n x k para U, k x m V, k para En total, (n + m+ ) x k la relacón de compresón es r = (n+m+)k / nm Para la msma magen n=480, m=640 enemos con k = 50 que la magen comprmda sólo requere un 8% de la nformacón orgnal 50* ( ) / (480*640) 6

7 9/05/03 7