Métodos iterativos para resolver sistemas de ecuaciones lineales

Transcripción

1 Clase No. 8 (Parte 1): MAT 251 Métodos iterativos para resolver sistemas de ecuaciones lineales Dr. Alonso Ramírez Manzanares Depto. de Matemáticas Univ. de Guanajuato alram@ cimat.mx web: alram/met_num/ Dr. Joaquín Peña Acevedo CIMAT A.C. joaquin@ cimat.mx Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

2 Matrices estrictamente diagonal dominante Proposición Sea A una matriz estrictamente diagonal dominante. Entonces la matriz es invertible. Por contradicción, supongamos que es singular. Entonces podemos hallar x = 0 tal que Ax = 0. Supongamos que Entonces x k = max 1 i n x i. n n a kj x j = 0 = a kk x k = a kj x j j=1 n n a kk x k a kj x j = a kk j=1 j =i lo cual es una contradicción. j=1 j =i j=1 j =i a kj x j x k n a kj j=1 j =i Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

3 Normas para vectores Definición de norma vectorial Una norma en R n es una función : R n R que tiene las propiedades: 1 x 0 x R n, 2 x = 0 si y sólo si x = 0, 3 αx = α x x R n, α R, 4 x + y x + y x, y R n. Ejemplos: Para x = (x 1, x 2,..., x n ) x 2 = n x 2 i (Norma l 2 ) x 1 = i=1 n x i (Norma l 1 ) i=1 x = max 1 i n x i (Norma l ) Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

4 Normas para matrices Definición de norma matricial Una norma en R n n es una función : R n n R que tiene las propiedades para todo A, B R n n y α R: 1 A 0 y A = 0 si y sólo si A = 0, 2 αa = α A, 3 A + B A + B, 4 AB A B. Ejemplos: Para A = [a ij ], 1/2 n n A F = a 2 ij i=1 j=1 (Norma de Frobenius) n A = max 1 i n j=1 a ij (Norma l ) A = max x =0 Ax x (Norma natural) Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

5 Introducción a los métodos iterativos Una separación de A es una descomposición A = Q P, con Q una matriz no singular. Una separación puede producir un método iterativo: b = Ax = Qx Px = x = Q 1 (Px + b) = Mx + c Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

6 Introducción a los métodos iterativos Una separación de A es una descomposición A = Q P, con Q una matriz no singular. Una separación puede producir un método iterativo: b = Ax = Qx Px = x = Q 1 (Px + b) = Mx + c Queremos un método en el que demos un vector inicial x 0 y generemos una sucesión mediante x t = Mx t 1 + c (1) tal que x t x, donde x es la solución del sistema Ax = b. En el proceso iterativo, como la matriz M y el vector c no cambian, se dice que el método es estacionario. Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

7 Introducción a los métodos iterativos Tenemos que la solución x de Ax = b satisface Restando (2) de (1) se obtiene x = Mx + c (2) x t x = M(x t 1 x ) = x t x M x t 1 x Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

8 Introducción a los métodos iterativos Tenemos que la solución x de Ax = b satisface Restando (2) de (1) se obtiene x = Mx + c (2) x t x = M(x t 1 x ) = x t x M x t 1 x Proposición Si M < 1, entonces la sucesión {x t }, con x t = Mx t 1 + c, converge para cualquier x 0. x t x M x t 1 x < x t 1 x Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

9 Un comentario sobre las normas en R n En general, no conocemos x. Por ello, un criterio para terminar de iterar el algoritmo es cuando se cumpla x t x t x t < tol o Ax t b 1 + b < tol Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

10 Un comentario sobre las normas en R n En general, no conocemos x. Por ello, un criterio para terminar de iterar el algoritmo es cuando se cumpla x t x t x t < tol o Ax t b 1 + b < tol Proposición Si a y b son dos normas en R n, entonces existen constantes α, β R tales que para todo x R n α x a x b β x a En general, cuando dos normas cumplen las desigualdades anteriores se dice que son equivalentes. Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

11 Un comentario sobre las normas en R n En general, no conocemos x. Por ello, un criterio para terminar de iterar el algoritmo es cuando se cumpla x t x t x t < tol o Ax t b 1 + b < tol Proposición Si a y b son dos normas en R n, entonces existen constantes α, β R tales que para todo x R n α x a x b β x a En general, cuando dos normas cumplen las desigualdades anteriores se dice que son equivalentes. Desde el punto de vista computacional, esto nos da la libertad de usar en los algoritmos una norma que no sea costosa de calcular y que no introduzca demasiados errores al calcularla. Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

12 Método de Jacobi Queremos resolver Ax = b haciendo una separación de la matriz A = [a ij ] = Q P. Dado que x = Q 1 (Px + b), conviene elegir Q de modo que su inversa sea fácil de calcular. Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

13 Método de Jacobi Queremos resolver Ax = b haciendo una separación de la matriz A = [a ij ] = Q P. Dado que x = Q 1 (Px + b), conviene elegir Q de modo que su inversa sea fácil de calcular. En el método de Jacobi se elige a a 22 a 1n 0 a 22 0 a 21 0 a 2n Q = , P = a nn a n1 a n2 0 Si b = (b 1,..., b n ), x t 1 = (x t 1 1, x t 1 2,..., x t 1 ), entonces para n i = 1, 2,..., n, la componente i-ésima de x t está dada por Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

14 Método de Jacobi Queremos resolver Ax = b haciendo una separación de la matriz A = [a ij ] = Q P. Dado que x = Q 1 (Px + b), conviene elegir Q de modo que su inversa sea fácil de calcular. En el método de Jacobi se elige a a 22 a 1n 0 a 22 0 a 21 0 a 2n Q = , P = a nn a n1 a n2 0 Si b = (b 1,..., b n ), x t 1 = (x t 1 1, x t 1 2,..., x t 1 ), entonces para n i = 1, 2,..., n, la componente i-ésima de x t está dada por x t i = 1 a ii b i n a ij x t 1 j j=1 j =i Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

15 Convergencia del método de Jacobi Note que M = Q 1 P = I Q 1 A donde I es la matriz identidad de tamaño n. Entonces Si para todo i tenemos que M = max 1 i n n a ij j=1 j =i a ii a ii > n a ij = M < 1 j=1 j =i y por tanto la sucesión es convergente. Proposición Si la matriz A es estrictamente diagonal dominante, entonces el método de Jacobi converge para cualquier vector inicial x 0. Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

16 Ejemplo 1. Elegimos A = x 2000 = 3000, = b = Ax = Iniciamos con x 0 0 = Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

17 Ejemplo 1. t=1 t=3 t=5 t=7 t=9 t=11 x x x x x t=13 t=15 t=17 t=19 t=21 t=23 x x x x x Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

18 Otra condición suficiente. Decimos que v es un eigenvector de la matriz A si existe λ R tal que Av = λv, y llamamos a λ es un eigenvalor asociado a v. El radio espectral ρ(a) de una matriz A se define como ρ(a) = max{ λ : λ es eigenvalor de A} Proposición Sea A una matriz n n. Entonces ρ(a) A Además, A k 0 si y sólo si ρ(a) < 1. para cualquier norma natural. Proposición La sucesión x t = Mx t 1 + c converge para cualquier x 0 si ρ(m) < 1. Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

19 Ejemplo 2. Consideremos las matrices de la forma A = Radio espectral Dimension Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

20 Ejemplo 2. Fijamos n = 100. Sea b = (0.5, 0, 0,..., 0, 0, 0.5). Entonces, inicializamos el método de Jacobi con el siguiente vector x 0 : 3 Resultado parcial Componente Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

21 Ejemplo Resultado parcial Resultado parcial Componente Componente Iteración 1 Iteración 10 Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

22 Ejemplo Resultado parcial Resultado parcial Componente Componente Iteración 20 Iteración 50 Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

23 Ejemplo 2: Iteración Resultado parcial A*x^t Componente Iteracion Error Iteracion Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

24 Ejemplo 2: Iteración Resultado parcial A*x^t Componente Iteracion Error Iteracion Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

25 Ejemplo 2: Iteración Resultado parcial A*x^t Componente Iteracion Error Iteracion Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

26 Ejemplo 2: Iteración Resultado parcial A*x^t Componente Iteracion Error Iteracion Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

27 Ejemplo 2: Iteración Resultado parcial A*x^t Componente Iteracion Error Iteracion Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22

28 Ejemplo 2: Iteración Resultado parcial A*x^t Componente Iteracion Error Error Iteracion Iteracion Joaquín Peña (CIMAT) Métodos Numéricos (MAT 251) / 22