Proyección ortogonal y mínimos cuadrados

Transcripción

1 Proyección ortogonal y mínimos cuadrados Profesores Omar Darío Saldarriaga Ortíz Iván Dario Gómez Hernán Giraldo 2009

2 Definición (Proyección ortogonal sobre un vector) Sean a y b vectores en R n, definimos la proyección ortogonal del vector a sobre el vector b, el cual será denotado por proy b a, como el vector dado por Definición (La matriz proyección) proy b a = b a b b b. Esta fórmula la podemos expresar matricialmente de la siguiente forma: b a b b b = bt a b t b b = 1 b t b bbt a. Nótese que bb t es una matriz y a la matriz P = 1 b t b bbt (1) se le llama la matriz de la proyección y tiene la propiedad que para todo a R n, P a = proy b a.

3 Definición (Proyección ortogonal sobre un vector) Sean a y b vectores en R n, definimos la proyección ortogonal del vector a sobre el vector b, el cual será denotado por proy b a, como el vector dado por Definición (La matriz proyección) proy b a = b a b b b. Esta fórmula la podemos expresar matricialmente de la siguiente forma: b a b b b = bt a b t b b = 1 b t b bbt a. Nótese que bb t es una matriz y a la matriz P = 1 b t b bbt (1) se le llama la matriz de la proyección y tiene la propiedad que para todo a R n, P a = proy b a.

4 1 Sea b = 0, calcular la matriz que proyecta sobre b y usarla para calcular 2 1 proy b a donde a = 1 1 Teorema Sea b R n y P = 1 b t b bbt la matriz proyección, entonces para todo a R n tenemos lo siguiente: 1 P a = proyb a b, 2 a P a b, 3 P P a = P a, es decir, P 2 = P, 4 Si a b entonces P a = a, 5 Si a b entonces P a = 0.

5 1 Sea b = 0, calcular la matriz que proyecta sobre b y usarla para calcular 2 1 proy b a donde a = 1 1 Teorema Sea b R n y P = 1 b t b bbt la matriz proyección, entonces para todo a R n tenemos lo siguiente: 1 P a = proyb a b, 2 a P a b, 3 P P a = P a, es decir, P 2 = P, 4 Si a b entonces P a = a, 5 Si a b entonces P a = 0.

6 Lema Sea A una matriz, entonces Nul(A) = Nul(A t A). Lema Sea A = [ v 1 v k ] una matriz donde {v1,..., v k } son las columnas y son LI entonces 1 A t A es invertible, 2 La matriz (A t A) 1 A t es una inversa a la izquierda de A.

7 Lema Sea A una matriz, entonces Nul(A) = Nul(A t A). Lema Sea A = [ v 1 v k ] una matriz donde {v1,..., v k } son las columnas y son LI entonces 1 A t A es invertible, 2 La matriz (A t A) 1 A t es una inversa a la izquierda de A. 1 0 Calcular una inversa a la izquierda de la matriz A =

8 Lema Sea A una matriz, entonces Nul(A) = Nul(A t A). Lema Sea A = [ v 1 v k ] una matriz donde {v1,..., v k } son las columnas y son LI entonces 1 A t A es invertible, 2 La matriz (A t A) 1 A t es una inversa a la izquierda de A. 1 0 Calcular una inversa a la izquierda de la matriz A =

9 Corolario Sea A una matriz cuyas filas son linealmente independientes, entonces se tiene que 1 AA t es invertible, 2 La matriz A t (AA t ) 1 es una inversa a la derecha de A. Sea A = [ ] 1 1 1, calcular una inversa a la derecha de A

10 Corolario Sea A una matriz cuyas filas son linealmente independientes, entonces se tiene que 1 AA t es invertible, 2 La matriz A t (AA t ) 1 es una inversa a la derecha de A. Sea A = [ ] 1 1 1, calcular una inversa a la derecha de A Teorema Sean H un subespacio de R n, {h 1,..., h k } una base para H, A = [ h 1 h k ], P = A(A t A) 1 A t y b R n, entonces se tiene que 1 P b H, 2 b P b H, 3 P 2 = P, 4 Si b H entonces P b = b, 5 Si b H entonces P b = 0.

11 Corolario Sea A una matriz cuyas filas son linealmente independientes, entonces se tiene que 1 AA t es invertible, 2 La matriz A t (AA t ) 1 es una inversa a la derecha de A. Sea A = [ ] 1 1 1, calcular una inversa a la derecha de A Teorema Sean H un subespacio de R n, {h 1,..., h k } una base para H, A = [ h 1 h k ], P = A(A t A) 1 A t y b R n, entonces se tiene que 1 P b H, 2 b P b H, 3 P 2 = P, 4 Si b H entonces P b = b, 5 Si b H entonces P b = 0.

12 Definición Sean H un subespacio de R n, {v 1,..., v k } una base para H, A = [ v 1 v k ] y b R n. Definimos la proyección de b sobre H, denotada por proy Hb, como el vector: proy Hb = P b, donde P es la matriz P = A(A t A) 1 A t Calcular el vector proy Hb donde b = 1 y H = 1,

13 Definición Sean H un subespacio de R n, {v 1,..., v k } una base para H, A = [ v 1 v k ] y b R n. Definimos la proyección de b sobre H, denotada por proy Hb, como el vector: proy Hb = P b, donde P es la matriz P = A(A t A) 1 A t Calcular el vector proy Hb donde b = 1 y H = 1,

14 Definición (MÍNIMOS CUADRADOS) Sea A una matriz cuyas columnas son linealmente independientes y b R n, si el sistema Ax = b es inconsistente entonces la solución de los mínimos cuadrados al sistema está dada por ˆx = ( A t A ) 1 A t b Considere el sistema Ax = b donde 1 1 y b = 2. Use el método de los mínimos cuadrados para calcular la mejor solución.

15 Definición (MÍNIMOS CUADRADOS) Sea A una matriz cuyas columnas son linealmente independientes y b R n, si el sistema Ax = b es inconsistente entonces la solución de los mínimos cuadrados al sistema está dada por ˆx = ( A t A ) 1 A t b Considere el sistema Ax = b donde 1 1 y b = 2. Use el método de los mínimos cuadrados para calcular la mejor solución. Supongamos que los valores observados son ( 2, 0), (1, 0) y (2, 3), es fácil ver que estos valores no pertecen a una linea. Use el método de los mínimos cuadrados para calcular la mejor. a proximación a una recta de estos puntos.

16 Definición (MÍNIMOS CUADRADOS) Sea A una matriz cuyas columnas son linealmente independientes y b R n, si el sistema Ax = b es inconsistente entonces la solución de los mínimos cuadrados al sistema está dada por ˆx = ( A t A ) 1 A t b Considere el sistema Ax = b donde 1 1 y b = 2. Use el método de los mínimos cuadrados para calcular la mejor solución. Supongamos que los valores observados son ( 2, 0), (1, 0) y (2, 3), es fácil ver que estos valores no pertecen a una linea. Use el método de los mínimos cuadrados para calcular la mejor. a proximación a una recta de estos puntos.