Producto Interno y Ortogonalidad

Transcripción

1 Producto Interno y Ortogonalidad Departamento de Matemáticas, CSI/ITESM 15 de octubre de 2009 Índice 8.1. Contexto Introducción Un producto punto mediante la traza Propiedades del producto punto La norma de una matriz Propiedades de la norma de matrices Desigualdad de Schwarz La distancia entre dos matrices Ángulo entre matrices Ortogonalidad y espacios generados Bases Ortonormales Existencia de Bases Ortonormales Proyección ortogonal Descomposición QR Aplicación de la factorización QR Uso de la TI Contexto Hemos mencionado que el problema fundamental del álgebra lineal consiste en resolver un sistema de ecuaciones lineales A x = b y hemos introducido varios conceptos sofisticados para manejar la solución y el análisis. El concepto de espacio generado resuelve el problema de la consistencia: El sistema es consistente si y sólo si b C(A) (el espacio generado por las columnas de A). Otro concepto importante es el concepto de dependencia lineal y resuelve el problema de la unicidad: Si el sistema Ax = b es consistente, entonces Ax = b tiene infinitas soluciones si y sólo si las columnas de A forman un conjunto linealmente dependiente. Los conceptos de dimensión y de base de un espacio lineal permiten tener una idea qué tan grande es el conjunto solución y cómo generarlo: Si el sistema Ax = b es consistente, entonces la fórmula de todas las soluciones es y = y o + ns(a) donde y o es una solución particular y ns(a) es el espacio nulo de A, es decir, el conjunto de todos los vectores que satisfacen Ax = 0. De hecho, si B = {x 1,...,x r } es una base para ns(a), entonces la solución general será r y = y o + c i x i y esta será la solución general en su forma más reducida posible. El caso consistente ha dado origen a toda la teoría que hemos visto hasta ahora. Pasemos ahora a la inconsistencia. De alguna forma debemos cambiar la pregunta por que el tema se agotó: Si es Ax = b inconsistente, entonces no hay solución. Una forma adecuada de reformular la pregunta es: No habiendo solución para Ax = b, qué es lo más cerca posible que podemos i=1

2 estar de una solución? Esto involucra dos conceptos hermanados: distancia y perpendicularidad. Y ellos tienen como origen el concepto de producto interno o producto punto que es el tema de esta lectura Introducción En esta lectura veremos cómo definir un producto punto o producto interno en espacios de matrices (pues tenga presente que nos interesa el paso de Ax = b a AX = B también en el caso inconsistente). Veremos que aunque en un principio la definición del producto punto apartir del uso de la traza sea extraña, esta definición es de lo más cómoda porque hace coincidir el producto punto entre matrices con el producto punto tradicional entre vectores cuando las matrices son vectorizadas. La estructura clásica de la construcción del Algebra Lineal referente al producto interno es: definir un producto interno, probar ciertas propiedades básicas, estas propiedades incluyen en concepto de ortogonalidad, y entonces mostrar que se puede definir una norma a partir del producto interno; para llegar la definir una distancia con la norma se requiere probar la desigualdad de Cauchy-Schwarz. Cuando se dice que se tiene una distancia en el espacio lineal se tiene el concepto de cercanía y el de error. Las propiedades importantes que deben ser deducidas para que la distancia definida sea cabalmente una distancia son de identidad (que si la distancia entre dos objetos es cero, entonces los objetos son idénticos), de simetría (que la distancia medida de un objeto a otro es independiente de cual de los dos sea el punto de referencia), la desigualdad del triángulo (la distancia entre dos puntos no excede la suma de las distancias de uno de ellos a otro intermedio mas la distancia de ese intermedio al segundo punto; y habrá igualdad cuando el punto intermedio esté en el segmento que une ambos puntos). El proceso de Gram-Schmidt será la clave para encontrar una base para C(A) desde donde será fácil encontrar el punto más próximo de C(A) a b y allí a la mejor solución posible a Ax = b Un producto punto mediante la traza El producto punto entre matrices se define apartir del producto, la transpuesta y la traza entre y de matrices. En apariencia complejo, veremos su conveniencia y facilidad posteriormente. Definición Sean A y B dos matrices m n, el producto interno o producto punto de A y B se define como: Ejemplifiquemos el cálculo de productos punto. Ejemplo 1 Determine A B si Solución Por tanto: [ A B = A = A B = tr ( A B ) (1) , B = ([ A B = tr = [ ) = = 30 Toca el turno al alumno para ejercitar el concepto del producto punto entre matrices de la misma dimensión. Ejercicio 1 2

3 Para las matrices siguientes calcule A B. [ [ A = y B = [ [ A = y B = A = 3 1 y B = Propiedades del producto punto El camino tradicional para ver que un producto es efectivamente candidato a producto interno con escalares reales es probar que es: conmutativo, no negativo, y bilineal: Teorema 8.1 Sean A, B y C matrices m n y sea k un escalar. Entonces el producto punto cumple las siguientes propiedades: 1. Simetría: A B = B A 2. No negatividad: A A 0, habiendo igualdad ssi A = 0 3. Proporcionalidad: (ka) B = k (A B) 4. Distributividad: (A + B) C = A C + B C 5. 0 A = 0 Demostración 1. Directo de la definición: 2. De la sección anterior: Además, A A = 0 ssi A B = tr (A B) = tr ( (A B) ) = tr (B A) = B A A A = tr (A A) = m i=1 n j=1 a2 ij 0 m i=1 j=1 n a 2 ij = 0 ssi a ij = 0 para todo i = 1...m y j = 1...n ssi A = 0 No sea impaciente; Ud. participará en el festín de mini-demostraciones: Ejercicio 2 Demuestre el punto 3 del teorema anterior: Sean A y B matrices m n y sea k un escalar. Pruebe que: (ka) B = k (A B) Utilice la definición de, la propiedad de la transpuesta, y la propiedad 1 del Lema

4 Ejercicio 3 Demuestre el punto 4 del teorema anterior: Sean A, B y C matrices m n. Pruebe que: (A + B) C = A C + B C Utilice la definición de, la propiedad de la transpuesta, y la propiedad 2 del Lema 5.1. Ejercicio 4 Demuestre el punto 5 del teorema anterior: Sea A una matriz m n. Pruebe que: 0 A = La norma de una matriz Habiendo probado las propiedades mencionadas del producto interno nuevo, el siguiente paso es definir la norma de una matriz. En el espacio de matrices hay un buen número de normas igualmente útiles, la norma que se define aquí es la norma-2 de una matriz. Definición La norma de la matriz A m n se define como: A 2 = A = A A (2) Observe que por el punto 2 del teorema anterior, A A 0; así que la raíz cuadrada entregará un real mayor o igual a cero. Hagamos un ejemplo del cálculo de la norma de una matriz. Ejemplo 2 Determine la norma de la matriz: 3 1 A = Solución Como Así [ A A = [ A A = tr y por tanto, A = 43 Es su turno de practicar el cálculo de la norma de una matriz. Ejercicio 5 [ = =

5 Para las matrices siguientes calcule su norma. [ A = 3 1 [ A = A = Un hecho importante sobre la norma de una matriz es: A = tr ( A A ) m = i=1 j=1 n (a ij ) 2 Lo cual hace coincidir la definición tradicional de norma de un vector con la norma de una matriz cuando la matriz es utilizada para formar un solo vector formado por los renglones de ella. Algo más importante de observar es que el producto punto entre matrices usando la traza equivale al producto punto tradicional aplicado a los vectores obtenidos de vectorizar las matrices. Ejemplo 3 Verifiquemos la afirmación en el caso de matrices 2 2. Comprobación Digamos que [ [ a11 a A = 12 b11 b B = 12 a 21 a 22 b 21 b 22 Así De donde [ A a11 b B = 11 + a 21 b Propiedades de la norma de matrices 1/2 a 12 b 12 + a 22 b 22 A B = (a 11 b 11 + a 21 b 21 ) + (a 12 b 12 + a 22 b 22 ) Habiendo definido la norma de una matriz, lo siguiente es probar algunas propiedades básicas. Teorema 8.2 Sea A una matriz m n y k un escalar: 1. A 0, además A = 0 ssi A = 0 2. A = A 3. ka = k A Demostración 1. De lo visto A = m A A = i=1 j=1 n (a ij ) 2 1/2 0 5

6 Y también de lo mismo se deduce que A = 0 ssi A = Por las propiedades conocidas: ka = (ka) (ka) = k 2 A A = k A A = k A El segundo punto es el más sencillo y le queda hacerlo como ejercicio Ejercicio 6 Demuestre el punto 2. del teorema anterior: Sea A una matriz m n. Pruebe que: A = A Use directamente la definición de la magnitud de una matriz Desigualdad de Schwarz En la línea tradicional, el siguiente paso para ver que nuestro producto punto llega a definir una distancia a través de la definición de la norma, es probar que nuestro producto punto y la norma cumplen una relación de desigualdad llamada la desigualdad de Cauchy-Schwarz. Teorema 8.3 Sean A y B matrices m n: A B A B (3) Además, la igualdad se tiene si y sólo si una matriz es un múltiplo de la otra. Demostración En esta demostración es importante que vigile el rol de los factores en los productos: en los productos los factores en ambos lados deben ser matrices, mientras en los productos el factor a la izquierda es escalar y el factor a la derecha debe ser una matriz. Para cualesquiera escalares x y y: 0 (x A y B) (x A y B) = x 2 A 2 2xy (A B) + y 2 B 2 Suponiendo B 0, tomamos x = B y y = (A B)/ B en la fórmula anterior y simplificando muchos términos obtenemos: 0 B 2 A 2 (A B) 2 De donde se obtiene: (A B) 2 B 2 A 2 y tomando raíz cuadrada se obtiene la conclusión. Recuerde que un real k, k 2 = k y no que k 2 = k pues para los valores de k negativos el signo se pierde al elevar al cuadrado. Además, si A = k B se tiene que A = k B y así A B = k (B B) = k B 2 = A B probado que la desigualdad se cumple con igualdad en este caso. Por otro lado, si A B = A B definimos C = B 2 A (A B) B 6

7 se puede confirmar que desarrollando el producto término a término: C C = 0, implicando que C = 0, de donde B 2 A = (A B) B si suponemos B 0 deducimos que A = (A B) B 2 lo que dice que A es un múltiplo de B. Si B = 0, claramente B = 0 A y la desigualdad se cumple con igualdad Ejercicio 7 Sean A y B dos matrices m n. Demuestre que B A + B A + B y que existe igualdad sólo cuando una matriz es un múltiplo escalar de la otra. Utilice A + B 2 = (A + B) (A + B) Desarrolle tal producto punto. Después utilice la desigualdad de Schwarz. Finalmente, tome raíz cuadrada. Para la igualdad se requiere igualdad en la desigualdad de Schwarz. Lema 8.4 Sean X y Y dos matrices m n. Entonces X y Y son ortogonales, es decir, cumplen X Y = 0 si y sólo si X ± Y 2 = X 2 + Y 2 Demostración Tenemos en general que X ± Y 2 = (X ± Y) (X ± Y) = X X ± 2X Y + Y Y = X 2 + Y 2 ± 2X Y Por tanto, si X Y = 0 entonces de la fórmula anterior se deduce la igualdad que queremos probar. Por otro lado, si la fórmula se cumple nuestra fórmula indica que X Y = 0. Es decir X y Y son perpendiculares La distancia entre dos matrices Habiendo probado la desigualdad de Cauchy-Schwarz se puede construir una función distancia entre el espacio de matrices: Definición Sean A y B dos matrices m n la distancia entre matrices A y B se define como: Realicemos un ejemplo simple para ilustrar este concepto. Determine la distancia entre las matrices: 3 1 A = 2 0 B = 5 2 δ (A,B) = A B (4)

8 Solución Si Así C C = C = A B = [ = [ δ(a,b) = C = C C = tr (C C) = = 5 Ejercicio 8 Determine la distancia entre las matrices: A = 2 1 y B = 5 2 [ A = y B = 5 2 Ejercicio [ Sean A y B dos matrices de iguales dimensiones. Pruebe que: δ(a,b) = δ(b,a) Use directamente la definición de distancia entre matrices. Utilice también la propiedad conmutativa del producto punto. Ejercicio 10 Sean A y B dos matrices de iguales dimensiones. Pruebe que: δ(a,b) 0 Además, pruebe que hay igualdad si y sólo si A = B. Utilice la definición de distancia entre matrices y la propiedad 1 del teorema 6.2 sobre la norma para matrices. Ejercicio 11 Sean A, B y C dos matrices de iguales dimensiones. Pruebe que: δ(a,b) δ(a,c) + δ(c,b) Vea que existe igualdad si sólo si existe un escalar t (0 t 1) tal que C = ta + (1 t)b. Esta desigualdad se llama Desigualdad del triángulo. Utilice como válido el resultado del ejercicio 7 con A como A C y con B como C B. 8

9 Ejercicio 12 Sean A, B y C dos matrices de iguales dimensiones. Pruebe que: δ(a,b) = δ(a + C,B + C) Esta propiedad indica que la distancia entre matrices se preserva ante traslaciones. Directamente de la definición de distancia Ángulo entre matrices Definición Sean A y B dos matrices m n, no nulas, el ángulo entre matrices A y B, θ, se define como cos (θ) = A B A B (5) Aquí θ debe cumplir: 0 θ π. Ejemplo 4 Determine el ángulo en radianes entre las matrices 3 1 A = 2 0, B = 5 2 Solución Como Entonces Ejercicio 13 cos (θ) = A B = 2, A = 43, B = 22 Determine el ángulo en radianes entre las matrices [ 3 1 A = , por tanto θ 1.63 radianes, B = [ Ejercicio 14 Determine el valor de x para que el ángulo en radianes entre las matrices [ [ A =, B = x sea de 0.1. Entréle sin miedo: A B es una expresión lineal en x. B es una raíz cuadrada de un polinomio cuadrático en x. Cuando se iguala: cos (0.1rad) = A B A B después de elevar al cuadrado y multiplicar por denominadores queda una ecuación cuadrática en x. 9

10 8.10. Ortogonalidad y espacios generados Sean A y B dos matrices m n, se dice que son matrices ortogonales si se cumple A B = 0 Un conjunto {A 1,A 2,...,A k } de matrices m n se dice conjunto ortogonal si A i A j = 0 para i j El conjunto anterior se dice ortonormal si es ortogonal y además cada matriz tiene norma 1. Una vez que se tiene un conjunto ortogonal de elementos no cero {A 1,A 2,...,A k } es posible convertirlo a uno ortonormal definiendo: {B 1,B 2,...,B k } B i = 1 A i A i Ejercicio 15 Determine el valor de x para que las matrices sean ortogonales. [ [ A =, B = x Al hacer A B = 0 queda una ecuación lineal en x. Ejercicio 16 Determine qué condición deben cumplir las variables para que A B. [ [ 3 1 x y A =, B = 5 2 z w Al hacer A B = 0 queda una ecuación lineal. Ejercicio 17 Sea A una matriz m n muestre que el conjunto A = {X matriz m n A X} es un espacio lineal. Al hacer A X = 0 queda una ecuación homogénea. Las soluciones a los sistemas homogéneos son espacios lineales. Ejercicio 18 10

11 Determine el espacio perpendicular a la matriz: [ Escíbalo como un espacio generado. Tome una matriz X 2 2 con incógnitas. Al hacer A X = 0 queda una ecuación homogénea con 4 incógnitas; una de ellas es fija y las otras son libres. Despeje la fija y póngala en función de las libres. En lugar de la notación de vector en la solución general, prefiera la notación de matriz. Ejercicio 19 Sea V un subespacio lineal de matrices m n muestre que el conjunto es un espacio lineal. Muestre que V = {X matriz m n Y X para toda Y V } no es vacío: la matriz de ceros está (compruébelo), es cerrado bajo la suma (compruébelo), y es cerrado bajo el producto por escalares (compruébelo). Ejercicio 20 Determine el espacio perpendicular al espacio generado por las matrices matrices: [ [ A = y B = Tome una matriz X 2 2 de incógnitas: A X = 0 da una ecuación en las incógnitas B X = 0 da otra ecuación en las incógnitas Resuelva el sistema homogéneo, encuentre la solución general y déle la notación matricial. Veamos ahora un par de resultados teóricos: Lema 8.5 Un conjunto ortogonal de matrices no nulas es linealmente independiente Demostración Si {A 1 A 2,...,A k } es un conjunto ortogonal de matrices no nulas y si se cumple: c 1 A 1 + c 2 A c k A k = 0 11

12 veamos que los coeficientes c i son cero. Haciendo el producto punto con A i : A i (c 1 A 1 + c 2 A c k A k ) = A i 0 = 0 Desarrollando el primer miembro: A i (c 1 A 1 ) + A i (c 2 A 2 ) + + A i (c k A k ) = 0 Como el conjunto es ortogonal entonces A i A j = 0 para i j, la expresión anterior queda: c i A i A i = 0 Puesto que ninguna matriz A i es nula, A i A i 0,la expresión anterior queda: c i = 0 Así, cada coeficiente en la combinación lineal es cero. Por tanto, el conjunto de matrices es linealmente independiente. Cuando se quiere verificar que una matriz es ortogonal al generado por un conjunto de matrices enfrentámos un dilema singular, cómo hacer pues en el generado resulta en conjuntos infinitos? El siguiente resultado es importante porque reduce una verificación infinita a una verificación sobre el conjunto generador: Lema 8.6 Sea A una matriz y V = Gen{B 1,...,B k } en M m n. Entonces: A es ortogonal a todo V si y sólo si A es ortogonal a cada B i. Demostración Suficiencia: Si suponemos que A es ortogonal a todo V y sabiendo que cada B i está en V, entonces es inmediato que A es ortogonal a B i. Necesidad: Supongamos ahora que A es ortogonal a todo B i, es decir que A B i = 0 para todo i = 1,...,k. Veamos que entonces es ortogonal a cualquier X de V. Tomemos un X cualquiera de V. Como V está generado por los B i, entonces deben existir escalares c i tales que Por tanto, Por tanto, A es ortogonal a X k X = c k B i i=1 A X = A ( k i=1 c k B i ) = k i=1 A (c k B i ) = k i=1 c i(a B i ) = k i=1 c i(0) = Bases Ortonormales El siguiente resultado es importante porque permite cambiar la base de un espacio generado por otra que es ortogonal. La misma demostración del resultado da el algoritmo de conversión. Teorema

13 Sea un conjunto {A 1,A 2,...,A k } de matrices m n linealmente independiente. Entonces existen escalares únicos x i,j (i < j) tales que: B 1 = A 1 B 2 = A 2 x 1,2 B 1 B j B k forman un conjunto ortogonal.. = A j x 1,j B 1 x 2,j B 2 x j 1,j B j 1. = A k x 1,k B 1 x 2,k B 2 x k 1,k B k 1 Demostración Definimos los valores escalares x i,j como precisamente se requieren: x i,j = A j B i B i B i (6) Ud. puede recordarlos si ubica que el primer subíndice de x ij se relaciona a las matrices por construir B i y que ésta es la que aparece en el denominador con el producto punto con si misma. Un punto importante a observar es que los {A 1,A 2,...,A j } son combinaciones lineales de los {B 1,B 2,...,B j } y por consiguiente el conjunto de los Bs es linealmente independiente. Para verificar que el conjunto es ahora ortogonal hay que realizar los productos punto. Conviene hacer una demostración inductiva de la afirmación. La afirmación es que el conjunto {B 1,...,B k } es ortogonal. Esta afirmación sería la afirmación última de la cadena de afirmaciones {B 1,...,B i } para i = 2, 3,...,k. La base inductiva para i = 2 se comprueba revisando que B 1 y B 2 son ortogonales: B 2 B 1 = A 2 B 1 x 1,2 B 1 B 1 = A 2 B 1 A 2 B 1 B 1 B 1 B 1 B 1 = 0 Supongamos que {B 1,...,B i } es un conjunto ortogonal para 1 i k 1, veamos {B 1,...,B i,b i+1 } también lo será. Para ello basta probar que B i+1 es ortogonal a cada B j para 1 j i. Como Así B i+1 = A i+1 i x l,i+1 B l l=1 ( B i+1 B j = A i+1 ) i l=1 x l,i+1b l B j = A i+1 B j i l=1 x l,i+1b l B j = A i+1 B j x j,i+1 B j B j = 0 Note que en el penúltimo paso fue requerida la base inductiva: que B j era ortogonal a sus compañeros en {B 1,...,B i }. Ejemplo 5 Aplique el algoritmo anterior al conjunto formado por las matrices: A 1 = [ ,A 2 = [ ,A 3 = [ Solución B 1 = A 1 13

14 Figura 1: Captura de la matrices vectorizadas del ejemplo 7. Figura 2: Obtención del conjunto ortogonal del ejemplo 7. Realizando los cálculos: Obtenemos: Y así: B 1 B 1 = 2 y A 2 B 1 = 2;x 12 = 1 [ 0 1 B 2 = A 2 x 12 B 1 = 0 0 B 2 B 2 = 1;A 3 B 1 = 1;A 3 B 2 = 1; x 13 = 1/2, x 23 = 1; [ B 3 = A 3 x 13 B 1 x 23 B 2 = 1/2 0 1/2 2 Estos cálculos pueden hacerse en la calculadora TI, para ello habrá que vectorizar las matrices y seguir las fórmulas: en la figura 1 aparecen capturadas las matrices como vectores y en la figura 2 aparecen los cálculos del algoritmo de ortogonalización. Ejemplo 6 Aplique el algoritmo anterior al conjunto formado por las matrices: [ [ [ A 1 =,A =,A = 0 2 Solución B 1 = A 1 B 1 B 1 = 2 y A 2 B 1 = 4;x 12 = 2 [ 0 0 B 2 = A 2 x 12 B 1 = 0 0 este cálculo indica que vector A 2 es combinación lineal de los vectores anteriores a él y por tanto el conjunto original es linealmente dependiente. Debemos descartar al vector A 2. Realizando solo el cálculo: A 3 B 1 = 1; 14

15 Obtenemos: Y así: x 13 = 1/2 [ B 3 = A 3 x 13 B 1 = 1/2 1 1/2 2 Ejercicio 21 Aplique el algoritmo anterior al conjunto formado por las matrices: [ [ [ A 1 =,A =,A = 0 2 Siga el algoritmo; no hay de otra Existencia de Bases Ortonormales EL resultado anterior se conoce como el procedimiento de Gram-Schmidt, y permite cambiar una base por una base ortogonal, de donde es fácil obtener una base ortonormal: Teorema 8.8 Todo espacio lineal de matrices m n posee una base ortonormal Demostración Sabemos que todo espacio lineal posee una base, digamos {A 1,...,A k }. Sean lo B j los las matrices obtenidas de aplicar el proceso de Gram-Schmidt. Los espacios generado por los B i y los A i son iguales pues las matrices B i son combinaciones lineales de los vectores A i y viceversa. Así, los conjuntos generados son los mismos. Si las matrices A i forman un conjunto linealmente independiente, también lo debe ser el conjunto formado por los B i. Por tanto, el conjunto formado por los B i es también una base para el espacio generado por los A i. Una ventaja inmediata de una base ortonormal {A 1,A 2,...,A k } es que si A es una combinación lineal de las matrices anteriores entonces: A = (A A 1 )A 1 + (A A 2 )A (A A k )A k es decir, que no hace falta utilizar el proceso de eliminación gaussiana para determinar los coeficientes, si no simplemente hacer un producto punto con el vector correspondiente. Una consecuencia también inmediata es que se puede completar un conjunto linealmente independiente y ortogonal a una base ortogonal en un espacio lineal de matrices m n. Una forma conviente es aplicar el proceso de Gram-Schmidt al conjunto li y ortogonal aumentado con una base cualquiera del espacio y detener el proceso hasta obtener el primer vector cero. El resultado esperado debe ser el conjunto inicial adicionado con algunos vectores. Este conjunto debe ser una base para el espacio completo. 15

16 8.13. Proyección ortogonal Teorema 8.9 Sea Y una matriz m n y un espacio lineal V de dimensión r, ambos dentro de un espacio lineal U. Entonces, existe una única matriz Z en V tal que (Y Z) V. Si r = 0 entonces Z = 0, y si r > 0 entonces Z se puede expresar como Z = c 1 X c r X r, donde {X 1,...,X r } forman una base ortonormal de V y c i = Y X i para i = 1,...,r. Además, Z = Y si y sólo si Y V. La matriz Z se llamará la proyección ortogonal de Y sobre V y cumple que d(z, Y ) d(x, Y ) para toda X en V y hay igualdad si y sólo si Z = X. Demostración Si r = 0 entonces dim(v ) = 0, y por tanto V = {0}. Para Z = 0 se tiene (Y Z) V. Y es claramente la única matriz en V que cumple esto. Si r > 0 sea {X 1,...,X r } una base ortonormal de V y definamos c i = Y X i para i = 1,...,r y Z = r i=1 c ix i. Claramente, Z V y ( ) r Y c i X i X j = Y X j c j = c j c j = 0 i=1 para cada j = 1,...,r. Y por tanto, (Y Z) V. Si ahora X V y cumple (Y X) V entonces: (X Z) (X Z) = (X Y + Y Z) (X Z) = (Y X) (X Z) + (Y Z) (X Z) = = 0 Esto debido a que X Z V y a que (Y Z) (X Z) = 0. Por tanto, X Z = 0 y de allí que X = Z, haciendo que Z sea el único vector en V que cumple (Y Z) V. Si X es una matriz en V entonces X Z también está en V y por tanto X Z será ortogonal a Y Z. De donde deducimos que de donde X Y 2 = X Z 2 + Y Z 2 d(x,y) 2 = d(x,z) 2 + d(y,z) 2 y por tanto d(z,y) d(x,y). Y esto se cumple con igualdad si y sólo si X = Z Ejercicio 22 Considere el espacio lineal formado por todas las soluciones al sistema homogéneo: y el vector d =< 1, 3, 2, 1 >. x + y + z w = 0 x y z + w = 0 Usando el orden primero x, luego y, luego z, y por último w, encuentre una base para el espacio solución. Ortogonolice la base encontrada. 16

17 Usando la base encontrada, determine la proyección ortogonal de d sobre tal espacio. Usando el orden primero y, luego w, luego y, y por último z, encuentre una base para el espacio solución. Ortogonolice la base nueva base. Usando la nueva base encontrada, determine la proyección ortogonal de d sobre tal espacio Descomposición QR Sea A una matriz m k de rango columna completo. Esto es, una matriz de rango k. Simbolicemos por a 1,a 2,...,a k las columnas de la matriz A. Por el resultado anterior, deben existir escalares x i,j (i < j = 1,...,k) tales que los vectores columna b 1,...,b k definidos en forma recursiva por las igualdades: o por las igualdades: b 1 = a 1 b 2 = a 2 x 1,2 b 1 b j b k. = a j x 1,j b 1 x j 1,j b j 1. = a k x 1,k b 1 x k 1,k b k 1 a 1 = b 1 a 2 = b 2 + x 1,2 b 1 a j. = b j + x 1,j b x j 1,j b j 1. a k = b k + x 1,k b x k 1,k b k 1 forman un conjunto ortogonal. Sea B la matriz cuya columna i es el vector b i, y sea X la matriz k k triangular superior unitaria cuyo elemento (i, j) es x i,j entonces: Si se define la matriz D como y como entonces A = BX D = diag ( b 1 1, b 2 1,..., b k 1), E = diag ( b 1, b 2,..., b k ) Q = BD y R = EX A = QR es una factorización de A en dos matrices: la primera formada por columnas que son ortonormales y la segunda triangular superior con elementos de la diagonal principal positivos. Esta factorización se conoce como la factorización QR de A y es muy importante en métodos numéricos. Ejemplo 7 Determine la factorización QR de la matriz: A =

18 Solución: Trabajemos con las columnas de A: a 1 = (1, 1, 1, 1, 1, 1), a 2 = (1, 2, 3, 4, 5, 6) Así: Calculando: Obtenemos: Y así: Calculando: Por tanto b 1 = a 1 b 1 b 1 = 6 y a 2 b 1 = 21 x 12 = 7/2 b 2 = a 2 x 12 b 1 = ( 5/2, 3/2, 1/2, 1/2, 3/2, 5/2) Q = [b 1,b 2 D = R = Q = [ /2 70 b 2 b 2 = 35/2 1 5/2 1 3/2 1 1/2 1 1/2 1 3/2 1 5/2 1/6 6 1/ /6 6 3/ /6 6 1/ /6 6 1/ /6 6 3/ /6 6 1/14 70 [ 1 x [ 6/ /35 [ 6 7 = Ejercicio 23 Determine la factorización QR de la matriz: A = Aplicación de la factorización QR Teorema 8.10 Si A es una matriz cuyas columnas son linealmente independientes y si A = QR es una factorización QR de A. Entonces la única solución x de Ax = b por mínimos cuadrados se expresa teóricamente como x = R 1 Q T b 18

19 Ejemplo 8 Aplique la factorización QR para resolver por mínimos cuadrados el sistema: x = Solución Por el ejemplo anterior, la factorización de la matriz de coeficientes es: 1/6 6 1/ /6 6 3/ /6 6 1/70 70 A = QR = 1/6 6 1/70 [ /6 6 3/ /6 6 1/14 70 Siguiendo la estrategia descrita en el último resultado la solución por el método de mínimos cuadrados se calcula por la fórmula: x = R 1 Q T b y Así y por tanto, Ejercicio 24 [ Q T = 1/6 6 1/6 6 1/6 6 1/6 6 1/6 6 1/6 6 1/ / / / / /14 70 R 1 = [ 1/6 6 1/ /35 70 x = R 1 Q T b = [ Aplique la factorización QR para resolver por mínimos cuadrados el sistema: x = Uso de la TI La calculadora TI 89 o TI Voyage 200 puede ser utilizada para la factorización QR. La ventaja de la rutina numérica programada es que da información sobre el espacio nulo de la matriz de entrada cuando las columnas de la matriz no son linealmente independientes. Considere por ejemplo la matriz [ 1 2 A = 2 4 Las figuras 3 y 4 muestran la entrada y los cálculos en la TI. El punto a señalar es que habiendo ceros en la diagonal de R se indica que los vectores correspondientes en Q están en el espacio nulo de la matriz A. De

20 Figura 3: Descomposición QR de A en la TI. Figura 4: La naturaleza de los ceros en la diagonal de R. hecho, todos los vectores correspondientes a ceros en la diagonal de R forman la base para el espacio nulo de A. Ejemplo 9 Determine la distancia de P(0, 2, 1) al espacio que generan los vectores: v 1 = 2 3 1,v 2 = Con los vectores v 1 y v 2 formamos la matriz A a la cual le aplicamos la factorización QR: A = [v 1 v 2 = QR = 1/ / / / / / [ 14 5/ / De donde los coeficientes de Fourier del vector que representa a P,v =< 0, 2, 1 > son: ( ) [v Q = Q T 1 v = y de allí que la proyección de v a C(A) es: v C(A) = Q [v Q = Por tanto, la distancia de v a C(A) es d(v, C(A)) = v v C(A) = =

21 Ejemplo 10 Determine la distancia de P(0, 2, 1, 1) al conjunto de soluciones del sistema [ x 1 ( ) Bx = x x 3 = 0 x 4 Este problema se resuelve como el anterior, pero debemos encontrar un conjunto generador. Para ello tenemos dos alternativas: o seguir el proceso descrito en lecturas anteriores o calcular lo que se conoce como el espacio nulo de B: Aquellos vectores x tal que Bx = 0. En general, los conjuntos generadores obtenidos por ambos procesos son diferentes pero ambos son base para el mismo conjunto. Si utilizamos la alternativa del espacio nulo tenemos: nullspace(b) = Gen Así el problema se ha transformado en encontrar la distancia de P(= v) a C(A) donde A es la matriz cuyas columnas son el generador de nullspace(b). Se deja como ejercicio comprobar que: A = = QR = , /9 6 4/ /18 6 1/ / / / v C(A) = 43/65 19/65 47/65 14/65 d(v, C(A)) = 1/ [ / / Ejemplo 11 Determine la matriz X que mejor resuelve el sistema AX = B para A = 0 1, B = La factorización QR de A es A = QR = 1/2 2 1/ /3 6 1/2 2 1/6 6 [ 2 3/ /2 6 Por tanto, la matriz X que minimiza el error cuadrático es: [ X = R 1 Q B = /3 Y el error cometido con X es 25/3 21