Aproximación funcional por mínimos cuadrados

Transcripción

1 Aproximación funcional por mínimos cuadrados Laboratori de Càlcul Numèric (LaCàN) Departament de Matemàtica Aplicada III Universitat Politècnica de Catalunya (Barcelona) Introducción Interpolación polinómica pura puede no ser la mejor opción: si el número de datos (n+1) es elevado, el polinomio interpolador puede presentar oscilaciones importantes poca flexibilidad para elegir el tipo de interpolante (polinomio de grado n) si los datos son experimentales o susceptibles de tener un cierto error no tiene sentido imponer que el interpolante pase exactamente por los datos, es suficiente exigir que se acerque lo máximo posible criterio de aproximación MÍNIMOS CUADRADOS 2 1

2 Mínimos cuadrados: criterio de aproximación Mínimos cuadrados es un criterio de aproximación que se puede utilizar para ajustar cualquier tipo de función: interpolación polinómica interpolación trigonométrica otros, por ejemplo, MÍNIMOS CUADRADOS 3 Caso particular: regresión lineal MÍNIMOS CUADRADOS 4 2

3 Producto escalar <, >: es una forma 1. bilineal Producto escalar y norma 2. simétrica 3. y definida positiva MÍNIMOS CUADRADOS 5 Todo producto escalar tiene una norma asociada Norma : 1. y MÍNIMOS CUADRADOS 6 3

4 Producto escalar continuo Producto escalar discreto MÍNIMOS CUADRADOS 7 Ecuaciones normales El espacio de aproximación es un espacio vectorial (el interpolante depende linealmente de los coeficientes) base interpolante buscamos los coeficientes c 0, c 1,...,c m que minimicen MÍNIMOS CUADRADOS 9 4

5 Para encontrar el mínimo derivamos respecto a los coeficientes MÍNIMOS CUADRADOS 10 p(x) es la proyección de f(x) sobre Ψ Proyección MÍNIMOS CUADRADOS 11 5

6 Sustituyendo se obtienen las ecuaciones normales (notación) MÍNIMOS CUADRADOS 12 Teorema Si las funciones son linealmente independientes, el problema de mínimos cuadrados tiene una única solución. demostración: basta comprobar que la matriz de las ecuaciones normales A es regular la matriz es regular si la única solución del sistema homogéneo es el vector 0 (hay que comprobarlo) MÍNIMOS CUADRADOS 13 6

7 Consideremos un vector solución del sistema homogéneo, es decir, Por lo tanto, la norma de la función es MÍNIMOS CUADRADOS 14 norma ψ i linealmente independientes MÍNIMOS CUADRADOS 15 7

8 Teorema fundamental de MC Si son linealmente independientes, el problema de mínimos cuadrados, planteado como solución de las ecuaciones normales, 1. Tiene solución única 2. La solución se caracteriza por la propiedad de ortogonalidad 3. Si son una base ortogonal (coeficientes de Fourier) MÍNIMOS CUADRADOS 16 Malcondicionamiento de las ecuaciones normales Las ecuaciones normales pueden estar muy mal condicionadas (depende de la elección de la base) Por ejemplo, la matriz de las ecuaciones normales con base natural de polinomios y producto escalar continuo se llama matriz de Hilbert MÍNIMOS CUADRADOS 17 8

9 Matriz de Hilbert de dimensión m+1 m Número de condición MÍNIMOS CUADRADOS 18 Bases ortogonales Ecuaciones normales con matriz diagonal MÍNIMOS CUADRADOS 19 9

10 Polinomios de Legendre: Familias de polinomios ortogonales Polinomios de Gram: con puntos equiespaciados en [-1,1] Para intervalo [a,b] se hace un cambio de variable MÍNIMOS CUADRADOS 20 Interpolación polinómica por mínimos cuadrados n+1 datos: f(x i ) con i=0,...,n Aproximación con un polinomio de grado m donde es una base de P m (espacio de polinomios de grado menor o igual que m) Condición MÍNIMOS CUADRADOS 21 10

11 Si m>n el producto escalar discreto es degenerado en P m (no cumple la 3ª propiedad) cumple aunque Si m=n el polinomio p n (x) es el polinomio de interpolación pura MÍNIMOS CUADRADOS 22 Regresión lineal MÍNIMOS CUADRADOS 23 11

12 Paradoja de Runge Interpolación polinómica pura MÍNIMOS CUADRADOS 24 12