Tema 6: Resolución aproximada de sistemas de ecuaciones lineales

Métodos Numéricos: Resumen y ejemplos Tema 6: Resolución aproximada de sistemas de ecuaciones lineales Francisco Palacios Escuela Politécnica Superior de Ingeniería de Manresa Universidad Politécnica de Cataluña Abril 9, versión 5 Contenido Método iterativo para sistemas lineales Método de Jacobi y de Gauss-Seidel Normas vectoriales y matriciales 4 Convergencia del método iterativo lineal Método iterativo para sistemas lineales Notaciones En este tema, usamos letra negrita para matrices y vectores Sistema de n ecuaciones con n incógnitas a x + a x + + a n x n b a x + a x + + a n x n b a n x + a n x + + a nn x n b n Forma matricial Ax b a a a n a a a n a n a n a nn x x x n b b b n Métodos directos ½ Gauss Cramer Despejan x,x,,x n

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales Método iterativo A partir de una aproximación inicial x (), genera una sucesión de vectores que tiende a la solución α del sistema x () x () x () n x () x () x () n, n j α Nota Observa que usamos superíndices para indicar el número de iteración y subíndices para indicar la componente del vector, así x (7) es la tercera componente del vector x (7) obtenido en la fase 7 Ejemplo Método de Jacobi Consideramos el sistema de ecuaciones lineales x + x + x x +5x + x 7 x + x +x Despejamos x en la primera ecuación, x en la segunda y x en la tercera x x x x 4 x x x 5 5x 5x y establecemos la siguiente fórmula de recurrencia x (j+) x (j+) 4 x (j+) 5 5 5 Matricialmente, resulta x (j+) x (j+) x (j+) 5 5 Si partimos del vector obtenemos x () 5 5 x () + 4 5 + 4 5 4 5 α α n

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales x () x () x (4) 5 5 5 5 5 5 x (5) x (7) 874 5 9587 5 6948 75 8687 9 9546 87 6 484 4 5 55 5 8 + 9 5 65 + x (6) x (8) 4 5 4 5 + 4 5 868 78 956 75 645 8686 97 9544 587 6 478 55 5 8 9 5 65 855 5 945 649 Vemos que los sucesivos vectores convergen a un vector que, con 4 decimales, sería 869 ᾱ 954 64 La solución del sistema, con 8 decimales, es α 8686 66 9544 984 6 458 Observa que el método descrito puede escribirse en la forma x (j+) M + c, donde M 5 5 c 4 5 Método iterativo lineal Objetivo Partimos de un sistema de n ecuaciones con n incógnitas con solución α Ax b

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 4 Queremos obtener una expresión de punto fijo equivalente x Mx+ c para construir una fórmula de recurrencia x (j+) M + c que origine una sucesión convergente a la solución Construcción del método x (), x (),,, j α Tomamos N matriz cuadrada de orden n fácilmente invertible Expresamos A N P Entonces, resulta el sistema equivalente con Demostración Partimos de sustituimos A N P resulta x Mx+ c, P N A, M N P, c N b Ax b, (N P) x b, Nx Px b, Nx Px + b, x N (Px + b), x N P {z } M x+ N b {z } c Método iterativo (correspondiente a la matriz N) ½ x () vector inicial x (j+) M +c donde N matriz que define el método, P N A, M N P, c N b

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 5 Ejemplo Dado el sistema x +x +x x +x + x x + x + x (a) Plantea el método iterativo para N (b) Aproxima la solución con 4 decimales a partir de x () ~ Forma matricial del sistema {z } A x x x {z } b (a) Planteamiento del método Calculamos P P N A Calculamos N usando el método de Gauss-Jordan, empezamos con (N I ) Cambio a y a dividiendo la primera fila por, la segunda por y la tercera por, resulta: / / I N / Obtenemos 5 N

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 6 Calculamos M M N P M Calculamos c c N b 5 5 5 66666 5 5 Fórmula de recurrencia x (j+) 5 5 x (j+) x (j+) 66666 (b) Iteraciones Partimos del vector x () + 5 obtenemos x () x () 5 5 5 66666 8 6666 7 5 5 + 5 x () 5 5 66666 49 7 78 76 8 6666 7 5 + 5

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 7 x (4) x (5) x (6) 5 5 66666 457 8 75 6 747 5 5 66666 46 5 76 7 5 5 66666 46 7 74 7 49 7 78 76 457 8 75 6 747 46 5 76 7 + + + 5 5 5 El vector de error estimado en la iteración 6 es 8 ē (6) x (6) x (5) 8 9 Tomamos como solución ᾱ 46 7 7 La solución del sistema, con 8 decimales, es 46 765 α 74 49 77 8 El vector de error es e (6) α x (6) 65 6 9 5 78 5

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 8 Método de Jacobi y de Gauss-Seidel Dada una matriz cuadrada A, definimos L A D A U A matriz con la parte subdiagonal de A (low) matriz con la parte diagonal de A (diagonal) matriz con la parte sobrediagonal de A (upper) Se cumple Si A es de orden, resulta L A a a a A L A +D A +U A A D A a a a a a a a a a a a a U A Método de Jacobi Tomamos N D A Método de Gauss-Seidel Tomamos N L A +D A Ejemplo Consideramos el sistema de ecuaciones lineales x x x x +x x x x +x 6 a a a (a) Formula el método de Jacobi (b) Haz 4 iteraciones a partir del vector inicial x () ~ (c) Calcula el vector de error estimado ē (4) x (4) x () (d) Calcula la solución del sistema α yelvectordeerrore (4) α x (4) (a) Construcción del método Forma matricial del sistema {z } A x x x 6 {z } b

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 9 Matriz que define el método iterativo N D A Matriz P P N A Inversa de N Matrices M y c M N P c N b N Método iterativo x (j+) x (j+) x (j+) (b) Cálculo de las iteraciones Partimos del vector x () obtenemos x () x () 6 + 6 + 6 6 + 6 6 6 6 9 5 97

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales x () x (4) (c) Error estimado ē (4) x (4) x () 5484 455 6 87 6 9 5 97 564 47 6 79 + + 6 6 564 47 6 79 (d) Resolvemos el sistema por Cramer 968, 6 44, La solución del sistema es 58/968 α 44/968 5896/968 si aproximamos con 6 decimales, obtenemos 54545 5 α 45454 5 6 999 El vector de error es 54545 5 e (4) α x (4) 45454 5 6 999 5484 455 6 87 6 6 Ejemplo Consideramos el sistema de ecuaciones lineales x x x x +x x x x +x 6 (a) Formula el método de Gauss-Seidel (b) Haz 4 iteraciones a partir del vector inicial x () ~ (c) Calcula el vector de error estimado ē (4) x (4) x () (d) Calcula el vector de error e (4) α x (4) 564 47 6 79 5484 455 6 87 56 45 8 58, 5896 945 45 69

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales (a) Construcción del método Matriz que define el método iterativo Matriz P P N A N L A + D A Inversa de N N Matrices M y c M N P c N b Método iterativo x (j+) x (j+) x (j+) 6 + 5 958 5 958 (b) Cálculo de las iteraciones Partimos del vector x () obtenemos x () + 5 958 5 958

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales x () x () x (4) (c) Error estimado ē (4) x (4) x () 5456 45448 6 988 5 958 66 48 6 87 + 5486 45 9 6 946 (d) El vector de error es 54545 5 e (4) α x (4) 45454 5 6 999 + 5 958 + 5486 45 9 6 946 5456 45448 6 988 Normas vectoriales y matriciales Norma vectorial 5 958 5 958 66 48 6 87 5486 45 9 6 946 979 74 4 78 6 9 5456 45448 6 988 Una norma sobre R n es una aplicación x kxk que hace corresponder un número real no negativo a cada vector x Dados x, y R n, λ R, las propiedades que definen las normas son las siguientes kxk kxk si y sólo si x ~ kλxk λ kxk 4 kx + yk kxk + kyk Algunas normas vectoriales Sea el vector x x x x n

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales Norma Norma (norma euclídea) kxk x + x + + x n kxk q x + x + + x n Norma de infinito kxk max x i i Podemos entender que cada norma nos proporciona una manera de medir la longitud de los vectores Nosotros utilizaremos kxk Ejemplo Dado el vector x calcula kxk, kxk y kxk kxk + + + 6, kxk +9+4 4, kxk {,,, } Sucesión vectorial convergente Consideremos el sistema de n ecuaciones con n incógnitas con solución Ax b α ysea una sucesión de vectores x () x () x () n x () α α α n x () x () n, n

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 4 La sucesión de errores es e () α x (), e () α x (),,e (j) α Definición La sucesión converge a α si, para alguna norma,se cumple lim α j Con la norma de infinito, resulta ³ max i αi lim j Ejemplo Norma de errores Supongamos la solución Si la primera aproximación es α x () i 9 obtenemos e () α x () 9 e () max{,, } Supongamos que la segunda aproximación es 99 x () entonces e () α x () 99 e () max{,, } Puede demostrarse que si se cumple para una norma, entonces se cumple para todas

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 5 4 Norma matricial compatible 4 Norma de infinito de una matriz Consideremos una matriz de p filas y n columnas m m m n m m m n M m p m p m pn la norma de infinito de la matriz es kmk max ip { m i + m i + + m in } Con mayor claridad, para calcular kmk procedemos como sigue: Calculamos las sumas de valores absolutos de las filas s m + m + + m n, s m + m + + m n, s p m p + m p + + m pn Calculamos el máximo de los valores s i kmk max{s,s,,s p } i Ejemplo Calcula kmk para la matriz M Calculamos las sumas de filas fila s + + 4, fila s + +, fila s + + 5 Entonces kmk max{4,, 5} 5

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 6 4 Propiedades de k k Sean M y N matrices reales, λ R y supongamos que, en cada caso, las matrices tienen las dimensiones adecuadas para que las operaciones puedan realizarse Se cumplen las siguientes propiedades: kmk kmk si y sólo si M es una matriz nula kλ Mk λ kmk 4 km + Nk kmk + knk 5 kmnk kmk knk Las propiedades -4, son las mismas que las de las normas vectoriales La propiedad 5, es aplicable cuando x es un vector columna, entonces resulta kmxk kmk kxk Ejemplo 4 Para la matriz M yelvectorx M x verificaquesecumplelapropiedad kmxk kmk kxk Calculamos kmk y kxk kmk max{4,, 5} 5, kxk max{,, } El vector Mx es Mx obtenemos kmxk Vemos que se cumple ¾ kmxk kmxk kmk kxk 5 kmk kxk

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 7 4 Convergencia del método iterativo 4 Teorema de convergencia Teorema 4 Sea Ax b sistema de n ecuaciones lineales con n incógnitas α α α solución del sistema α n N matriz cuadrada de orden n (fácilmente invertible) P N A M N P c N b x (j+) M +c Entonces, La solución α cumple α M α + c El error e (j) α verifica e (j+) Me (j) La norma del error e (j) α, cumple e (j+) kmk e (j) 4 Si e () α x () es el error inicial, tenemos e (j) (kmk ) j e () 5 Si kmk <, la sucesión de vectores x (), x (),,, generados por el método iterativo x (j+) M +c converge a la solución α para cualquier vector inicial x ()

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 8 Demostración () () Aα b (N P) α b Nα Pα b Nα Pα + b α N (Pα + b) α N P {z } M α+ N b {z } c e (j+) α x (j+) ³ (M α + c) M +c M α M M ³α (j) x Me (j) () Por la propiedad 5 de la norma de infinito e (j+) Me (j) kmk e (j) (4) Aplicamos reiteradamente la propiedad () e () kmk e () e () kmk e () (kmk ) e () e () kmk e () (kmk ) e () y, en general, (5) Tenemos, e (j) (kmk ) j e () e (j) (kmk ) j e () si kmk <, entonces por lo tanto (kmk ) j (j ), α e (j) (kmk ) j e () (j )

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales 9 4 Cotas prácticas de error Consideremos el error estimado ē (j) x (j ), las cotas prácticas de error, nos permiten acotar el error a partir del error estimado e (j) α Proposición 4 El error estimado cumple ē(j+) kmk ē(j) Demostración ē (j+) x ³ (j+) ³ M +c Mx (j ) +c M Mx (j ) M ³x (j ) (j) x Aplicando la Propiedad 5 de las normas matriciales, resulta ē(j+) Mē (j) kmk ē(j) Mē (j) Teorema 4 (cota de un paso) Si kmk <, se cumple la siguiente relación entre el error e (j) y el error estimado ē (j) e (j) kmk kmk ē(j) Demostración e (j) α x (j) α x (j+) + x (j+) α x (j+) + x (j+) e (j+) + ē (j+) kmk e (j) + kmk ē(j) obtenemos e (j) kmk e (j) kmk ē(j) ( kmk ) e (j) kmk ē (j) Si kmk <, el factor ( kmk ) es positivo, por lo tanto e (j) kmk ē(j) kmk

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales Teorema 4 (cota de j pasos) Si kmk <, se cumple la siguiente relación entre el error e (j) y el error estimado inicial ē () x () x () e (j) (kmk )j kmk ē () Demostración Según hemos visto en el Teorema 4, e (j) (kmk ) (j ) e () () si aplicamos la acotación en un paso a e (), resulta Combinando () y (), obtenemos e () kmk kmk ē() () e (j) (kmk )j kmk ē() Ejemplo 4 Consideramos el sistema de ecuaciones ½ x x 8 x +x 4 (a) Formula matricialmente el sistema y calcula la solución exacta (b) Formula el método de Jacobi (c) Estudia la convergencia (d) Haz 4 iteraciones a partir del vector inicial x () ~, calcula una cota de error para e (4) (e) Verifica los resultados del apartado anterior (f) Calcula el número de iteraciones necesario para aproximar la solución con 8 decimales exactos a partir de x () ~ (a) µ µ µ x 8 x 4 4, 8 4 4, x, x 8 4 8

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales (b) Matriz del método de Jacobi Calculamos M y c P N A N µ α µ µ µ µ µ N / 5 / 5 µ µ M N 5 P 5 µ c N 5 b 5 Fórmula de recurrencia à (c) Tenemos x (j+) x (j+)! µ 5 5 µ 8 4 à µ,, µ 5 5 µ 9 5! µ 9 + 5 kmk max{ 5, 5 } 5 <, por lo tanto, la sucesión de aproximaciones convergen a α para cualquiervectorinicialx () (d) Cálculo de las iteraciones x () µ µ x () 5 5 µ µ x () 5 9 5 5 µ µ x () 5 5 5 5 µ µ 5 5 5 99987 5 x (4) µ, µ 9 + 5 + + +, µ 9, 5 µ µ 9 5, 5 5 µ µ 9 5 5 99987 5 µ µ 9 99999 75 5 99998 75,

Francisco Palacios Tema 6: Sistemas de ecuaciones lineales Cota de error Según el Teorema 4, e (j) (kmk )j ē() kmk La norma del error estimado inicial es ē() µ x () x () 9 5, 5 por lo tanto e (4) (5)4 5 5 4868 4 4 () Esto es, podemos asegurar 4 decimales exactos en todas las componentes (e) El error exacto es e (4) µ µ µ α x (4) 99999 75 6 5 4 99998 75 5 4 e (4) 5 4 Vemos que el error real es inferior a la cota de error calculada en () (f) Para acabar, veamos cuantas iteraciones necesitaríamos para obtener 8 decimales exactos en todas las componentes Partimos de e (j) (kmk )j ē () kmk que, en este caso particular, es e (j) (5)j 95 5 Exigimos e (j) (5)j 5 < 5 8 95 y obtenemos (5) j 95 5 5 8, 5 (5) j 8 (95), 5 Ã 5 8! (95) j ln (5) ln, 5 Ã 5 8! (95) ln 5 j 6 67 ln (5) Por lo tanto, necesitamos 7 iteraciones