Álgebra Lineal. Sesión de Prácticas 6: Ortogonalidad. Método de Gram-Schmidt. Complemento ortogonal y mejor aproximación

Transcripción

1 Álgebra Lineal Sesión de Prácticas 6: Ortogonalidad. Método de Gram-Schmidt. Complemento ortogonal y mejor aproximación Primero Grado Ingeniería Informática Departamento de Matemática Aplicada Facultad de Informática 1 / 16

2 Método de Gram-Schmidt Sea {v 1, v 2,..., v m } un conjunto linealmente independiente de vectores de R n. El método de Gram-Schmidt nos da un conjunto ortogonal {u 1, u 2,..., u m } de vectores de forma que: v 1, v 2,..., v m = u 1, u 2,..., u m. Veamos un ejemplo de cómo funciona el algoritmo paso por paso: m,n,t= var ( m,n,t ) v1= vector ([-1,2,0,1]) v2= vector ([3,2,2,4]) v3= vector ([0,4,-2,1]) # Algoritmo de Gram - Schmidt paso a paso u1=v1 u2=v2+m*u1 solve (u1. dot_product (u2)==0,m) [m == (-5/6)] u2=u2(m=-5/6); u2 (23/6, 1/3, 2, 19/6) u3=v3+n*u1+t*u2 2 / 16

3 Método de Gram-Schmidt (cont.) solve ([u1. dot_product (u3)==0, u2. dot_product (u3)==0],n,t) [[n == (-3/2), t == (-3/ 173 )]] u3=u3(n=-3/2,t=-3/ 173 ); u3 ( 248 /173, 172 /173, /173, -96/173 ) # Comprobacion u1. dot_product (u2 ); u2. dot_product (u3 ); u1. dot_product (u3) # Veamos que generan el mismo subespacio span (QQ,[u1,u2,u3])== span (QQ,[v1,v2,v3]) True Directamente con SAGE: A= matrix ([v1,v2,v3]) G,M=A. gram_schmidt () G 3 / 16

4 Conjuntos ortonormales Podemos convertir el conjunto ortogonal anterior en conjunto ortonormal, sin más que dividir cada vector por su módulo: w1=u1/u1. norm (); w2=u2/u2. norm (); w3=u3/u3. norm () # Directamente con SAGE, # Nota : hay que usar el cuerpo QQbar # para poder trabajar con radicales A= matrix ( QQbar,[v1,v2,v3]) G,M=A. gram_schmidt ( orthonormal = True ) G # Veamos que las filas de G se corresponden # con los vectores wi G[0]==w1 True G[1]==w2 True G[2]==w3 True 4 / 16

5 Matriz de cambio de base entre bases ortonormales Si B y C son bases ortonormales entonces: P CB = P 1 BC = Pt BC. Veamos esta propiedad con un ejemplo. Consideremos la base ortonormal B = {w 1, w 2, w 3 }: w1= vector ([1/2* sqrt (2), 0, 1/2* sqrt (2)]) w2= vector ([-1/3* sqrt (3/2), 2/3* sqrt (3/2), 1/3* sqrt (3/2)]) w3= vector ([- sqrt (1/3), - sqrt (1/3), sqrt (1/3)]) # Matriz de cambio de B a C BC= matrix ([w1,w2,w3]) # Matriz de cambio de base de C a B CB=BC^1 CB==BC. transpose () True 5 / 16

6 Coordenadas respecto de una base ortonormal Si B = {w 1, w 2, w 3 } es una base ortonormal de R 3, las coordenadas (λ 1, λ 2, λ 3 ) B se calculan: Ejemplo: λ 1 = (v w 1 ), λ 2 = (v w 2 ), λ 3 = (v w 3 ). # para la base B={w1,w2,w3} anterior, # las coordenadas de v=( -4,3,5) son v. dot_product (w1) v. dot_product (w2) v. dot_product (w3) 6 / 16

7 Complemento ortogonal de un subespacio Sea W un subespacio no vacío de R n. Se define el complemento ortogonal W de W como el conjunto: Observaciones: W = {u R n : (u w) = 0, w W }. 1. W es un subespacio de R n. 2. Para que u W no hace falta comprobar que (u w) = 0 para todos los vectores de W, basta comprobarlo para los vectores de una base de W. 3. W W = {(0, 0,..., 0)}. 7 / 16

8 Complemento ortogonal de un subespacio Sea W un subespacio no vacío de R n. Se define el complemento ortogonal W de W como el conjunto: Observaciones: W = {u R n : (u w) = 0, w W }. 1. W es un subespacio de R n. 2. Para que u W no hace falta comprobar que (u w) = 0 para todos los vectores de W, basta comprobarlo para los vectores de una base de W. 3. W W = {(0, 0,..., 0)}. 7 / 16

9 Complemento ortogonal de un subespacio Sea W un subespacio no vacío de R n. Se define el complemento ortogonal W de W como el conjunto: Observaciones: W = {u R n : (u w) = 0, w W }. 1. W es un subespacio de R n. 2. Para que u W no hace falta comprobar que (u w) = 0 para todos los vectores de W, basta comprobarlo para los vectores de una base de W. 3. W W = {(0, 0,..., 0)}. 7 / 16

10 Complemento ortogonal de un subespacio Sea W un subespacio no vacío de R n. Se define el complemento ortogonal W de W como el conjunto: Observaciones: W = {u R n : (u w) = 0, w W }. 1. W es un subespacio de R n. 2. Para que u W no hace falta comprobar que (u w) = 0 para todos los vectores de W, basta comprobarlo para los vectores de una base de W. 3. W W = {(0, 0,..., 0)}. 7 / 16

11 Cálculo de W Caso I Nos dan W en forma de ecuaciones impĺıcitas (L.I.). Ejemplo: W = { (x, y, z, t) R 4 : x + 4y + 9z t = 0 }. Entonces W = (1, 4, 9, 1). Caso II Nos dan W en forma de generadores L.I. Ejemplo: W = ( 1, 2, 0, 2), (0, 2, 0, 4). Entonces W = { (x, y, z, t) R 4 : x + 2y + 2t = 0 2y + 4t = 0 } Consec. Si dim (W ) = r entonces dim (W ) = n r. Por tanto R n = W + W. 8 / 16

12 Cálculo de W Caso I Nos dan W en forma de ecuaciones impĺıcitas (L.I.). Ejemplo: W = { (x, y, z, t) R 4 : x + 4y + 9z t = 0 }. Entonces W = (1, 4, 9, 1). Caso II Nos dan W en forma de generadores L.I. Ejemplo: W = ( 1, 2, 0, 2), (0, 2, 0, 4). Entonces W = { (x, y, z, t) R 4 : x + 2y + 2t = 0 2y + 4t = 0 } Consec. Si dim (W ) = r entonces dim (W ) = n r. Por tanto R n = W + W. 8 / 16

13 Cálculo de W Caso I Nos dan W en forma de ecuaciones impĺıcitas (L.I.). Ejemplo: W = { (x, y, z, t) R 4 : x + 4y + 9z t = 0 }. Entonces W = (1, 4, 9, 1). Caso II Nos dan W en forma de generadores L.I. Ejemplo: W = ( 1, 2, 0, 2), (0, 2, 0, 4). Entonces W = { (x, y, z, t) R 4 : x + 2y + 2t = 0 2y + 4t = 0 } Consec. Si dim (W ) = r entonces dim (W ) = n r. Por tanto R n = W + W. 8 / 16

14 Proyección ortogonal y mejor aproximación Sea v R n. Por lo anterior v = w 0 + w 1 con w 0 W y w 1 W. A w 0 se le llama proyección de v en W y se le denota por w 0 = proy W (v). Del mismo modo a w 1 se le llama proyección de v en W y se le denota por w 1 = proy W (v). Propiedad proy W (v) es el vector más cercano a v dentro de W. Por esta razón también se le llama la mejor aproximación de v en W. 9 / 16

15 Proyección ortogonal y mejor aproximación Sea v R n. Por lo anterior v = w 0 + w 1 con w 0 W y w 1 W. A w 0 se le llama proyección de v en W y se le denota por w 0 = proy W (v). Del mismo modo a w 1 se le llama proyección de v en W y se le denota por w 1 = proy W (v). Propiedad proy W (v) es el vector más cercano a v dentro de W. Por esta razón también se le llama la mejor aproximación de v en W. 9 / 16

16 Proyección ortogonal y mejor aproximación Sea v R n. Por lo anterior v = w 0 + w 1 con w 0 W y w 1 W. A w 0 se le llama proyección de v en W y se le denota por w 0 = proy W (v). Del mismo modo a w 1 se le llama proyección de v en W y se le denota por w 1 = proy W (v). Propiedad proy W (v) es el vector más cercano a v dentro de W. Por esta razón también se le llama la mejor aproximación de v en W. 9 / 16

17 Proyección ortogonal y mejor aproximación Sea v R n. Por lo anterior v = w 0 + w 1 con w 0 W y w 1 W. A w 0 se le llama proyección de v en W y se le denota por w 0 = proy W (v). Del mismo modo a w 1 se le llama proyección de v en W y se le denota por w 1 = proy W (v). Propiedad proy W (v) es el vector más cercano a v dentro de W. Por esta razón también se le llama la mejor aproximación de v en W. 9 / 16

18 Forma de calcular proy W (v) Supongamos que W = w 1, w 2,..., w m es subespacio de R n. Entonces proy W (v) = x 1 w 1 + x 2 w x m w m. Para calcular las incógnitas x 1, x 2,..., x m, tenemos que resolver el SEL dado por x 1 A T A. = A T. v x m. siendo... A = w 1 w 2 w m / 16

19 Observaciones: El SEL anterior siempre es compatible y si los vectores generadores de W son LI, el SEL es compatible determinado. A la solución del SEL anterior se le llama solución por mínimos cuadrados. Se llama error de mínimos cuadrados a la diferencia proy W (v) v. Dentro de las aplicaciones del cálculo de la solución por mínimos cuadrados están: La resolución aproximada de SEL incompatibles. Ajuste de curvas, en particular, el cálculo de la recta de regresión. 11 / 16

20 Observaciones: El SEL anterior siempre es compatible y si los vectores generadores de W son LI, el SEL es compatible determinado. A la solución del SEL anterior se le llama solución por mínimos cuadrados. Se llama error de mínimos cuadrados a la diferencia proy W (v) v. Dentro de las aplicaciones del cálculo de la solución por mínimos cuadrados están: La resolución aproximada de SEL incompatibles. Ajuste de curvas, en particular, el cálculo de la recta de regresión. 11 / 16

21 Observaciones: El SEL anterior siempre es compatible y si los vectores generadores de W son LI, el SEL es compatible determinado. A la solución del SEL anterior se le llama solución por mínimos cuadrados. Se llama error de mínimos cuadrados a la diferencia proy W (v) v. Dentro de las aplicaciones del cálculo de la solución por mínimos cuadrados están: La resolución aproximada de SEL incompatibles. Ajuste de curvas, en particular, el cálculo de la recta de regresión. 11 / 16

22 Observaciones: El SEL anterior siempre es compatible y si los vectores generadores de W son LI, el SEL es compatible determinado. A la solución del SEL anterior se le llama solución por mínimos cuadrados. Se llama error de mínimos cuadrados a la diferencia proy W (v) v. Dentro de las aplicaciones del cálculo de la solución por mínimos cuadrados están: La resolución aproximada de SEL incompatibles. Ajuste de curvas, en particular, el cálculo de la recta de regresión. 11 / 16

23 Observaciones: El SEL anterior siempre es compatible y si los vectores generadores de W son LI, el SEL es compatible determinado. A la solución del SEL anterior se le llama solución por mínimos cuadrados. Se llama error de mínimos cuadrados a la diferencia proy W (v) v. Dentro de las aplicaciones del cálculo de la solución por mínimos cuadrados están: La resolución aproximada de SEL incompatibles. Ajuste de curvas, en particular, el cálculo de la recta de regresión. 11 / 16

24 Ejemplo 1 Calcular la mejor aproximación del vector v = ( 1, 2, 0, 2) en el subespacio W = (0, 1, 3, 1), (2, 1, 1, 1). # Introducimos la matriz A que tiene por # columnas una base de W v= vector (QQ,[-1,2,0,2]) Aux = matrix (QQ,[[0,1,3,-1],[2,-1,1,1]]) A= Aux. transpose () # Tenemos que resolver la ecuacion matricial # A^t* A* X=A^t* v. Si despejamos X tenemos la solucion (A. transpose ()*A)^-1*A. transpose ()*v (1/38, -11/38) # Por tanto la mejor aproximacion ( proyeccion # ortogonal de v en W) v1= vector (QQ,[0,1,3,-1]); v2= vector (QQ,[2,-1,1,1]); (1/38)*v1+(-11/38)*v2 (-11/19, 6/19, -4/19, -6/19) 12 / 16

25 Ejemplo 2 Dado el subespacio W = (0, 1, 3, 1), (2, 1, 1, 1), descomponer el vector v = ( 1, 2, 0, 2) como suma de un vector de W y un vector de W. Solución: El vector de W es el que hemos obtenido antes, w 0 = ( 11/19, 6/19, 4/19, 6/19), para obtener el vector de W simplemente hacemos v w 0 = ( 1, 2, 0, 2) ( 11/19, 6/19, 4/19, 6/19) = = ( 8/19, 32/19, 4/19, 44/19) Observación: El valor v w 0 nos da el error cometido al aproximar v por w / 16

26 Ejemplo 3 Encuentra la mejor solución por mínimos cuadrados del sistema: x 2y = 1 2x + 3y = 7 5x + 2y = 1 # La matriz A es la matriz de coeficientes del SEL A= matrix (QQ,[[1,-2],[2,3],[5,2]]) v= vector (QQ,[1,7,-1]) # Resolvemos la ecuacion matricial # A^t* A* X=A^t* v. Despejando X obtenemos : (A. transpose ()*A)^ -1*A. transpose ()*v (-34/157, 185 / 157 ) # que es la mejor solucion por minimos # cuadrados del SEL 14 / 16

27 Ejemplo 4 Encuentra la parábola de la forma y = ax 2 + bx + c que mejor aproxime a los datos {( 1, 2.5), ( 3, 3.5), (1, 4), (5, 7)} Solución: Aunque no nos lo piden, vamos a dibujar los datos para hacernos una idea: datos = [[-1,2.5],[-3,3.5],[1,4],[5,7]] dt = list_plot ( datos ) dt. show () Sustituyendo los datos en la ecuación de la parábola obtenemos el SEL incompatible: 2.5 = a ( 1) 2 +b ( 1) +c 3.5 = a ( 3) 2 +b ( 3) +c 4 = a 1 2 +b 1 +c 7 = a 5 2 +b 5 +c 15 / 16

28 Ejemplo 4 (cont.) # Introducimos A y v A= matrix (QQ,[[1,-1,1],[9,-3,1],[1,1,1],[25,5,1]]) v= vector (QQ,[2.5,3.5,4,7]) # Resolvemos A^t* A* X=A^t* v (A. transpose ()*A)^-1*A. transpose ()*v (35/352, 3/11, 103 /32) Por tanto la parábola que mejor aproxima a los datos es: y = x x Aunque no nos lo piden vamos a dibujar el resultado: parabola = plot (35/352 *x^2+3/11*x+ 103 /32,-3,5) show (dt+ parabola ) 16 / 16