Métodos Numéricos: ecuaciones lineales Eduardo P. Serrano

Transcripción

1 Métodos Numéricos: ecuaciones lineales Eduardo P. Serrano Versión previa Feb Ecuaciones lineales. El álgebra lineal numérica aborda principalmente dos problemas: - El análisis y resolución de sistemas de ecuaciones lineales. - El cálculo de autovalores y autovectores. Sistema de m ecuaciones lineales con n incógnitas: a 11 x a 1n x n = b a m1 x a mn x n = b m Forma matricial del sistema: Ax = b siendo A R m n y b R m 1. El arreglo x, n 1 dimensional, representa la incógnita. Sistema homogéneo: Si b 0 el sistema se dice no homogéneo Ax =0 Un vector x s R n 1 es solución del sistema si verifica la igualdad Ax s = b. El sistema puede ser: compatible determinado: tiene solución única. compatible indeterminado: tiene infinitas soluciones. incompatible: no tiene solución. Algunos conceptos: Sea la matriz A R m n Espacio nulo o núcleo de A : N (A) ={x/ax =0} R n Espacio columna de A ó E c (A), es el subespacio generado por las columnas de A: E c (A) ={y/ax = y, x R n } R m Espacio fila de A ó E f (A), es el subespacio generado por las filas de A: E f (A) ={v/u t A = v, u R m } R n Rango de A es el número de filas o de columnas linealmente independientes: rg(a) =dim(e f (A)) = dim(e c (A)) Teorema de la dimensión: dim(n (A)) + rg(a)) = n

2 Resultados fundamentales: El sistema Ax = b es compatible b E c (A) rg(a) =rg([a b]. siendo [A b] la matriz ampliada. El sistema Ax = b es compatible indeterminado, si es compatible y Ax = 0 tiene infinitas soluciones. En tal caso, d = dim(n (A)) = n rg(a) > 0 y el conunto de soluciones es de la forma: x s = c 1 v c d v d + x p siendo {v 1,...,v d } una base de N (A), {c 1,...,c d } constantes arbitrarias y x p R n 1 una solución particular. Si A R m n y M R m m, entonces: Ax = b (MA)x =(Mb) es decir tienen exactamente el mismo conunto de soluciones. Son sistemas equivalentes. Si n = m: El sistema es compatible determinado si existe solución única de Ax = b la única solución del homogéneo Ax =0esx =0 det(a) 0 existe A 1, la inversa de A y x = A 1 b rg(a) =n E f (A) =E c (A) =R n y N (A) ={0} 2. Resolución de ecuaciones compatibles determinadas. Se considera el sistema Ax = b, compatible determinado, con n ecuaciones y n incógnitas. Formalmente, la solución es: x s = A 1 b Para dimensiones n relativamente grandes, la inversión de la matriz es costosa y poco eficiente. y son preferibles otros métodos numéricos alternativos que evitan el cálculo explícito de la matriz inversa A 1. Tales métodos normalmente se implementan en la computadora procurando evitar el excesivo uso de memoria y la propagación de los errores de redondeo durante las operaciones. Los problemas computacionales para el almacenamiento y operaciones de suma y producto con matrices y vectores, se incrementan notablemente en función de la dimensiones. Se distinguen dos tipos de métodos numéricos para la resolución de ecuaciones compatibles determinadas: directos e indirectos o iterativos. 3. Métodos directos: técnicas básicas. El sistema es triangular si A = U, triangular superior, (ie: u i =0si<i), o si A = L, triangular inferior, (ie: l i =0si>i). En tal caso, los elementos diagonales son no nulos y el sistema puede resolverse pro substitución, despeando una a una las variables. Para el caso triangular superior, las ecuaciones son de la forma para 1 i n. u ii x i + + u in x n = b i

3 En cada ecuación se despea la incógnita correspondiente: x i = 1 n b i u ii =i+1 u i x (1) en forma descendente, para i = n, n 1,...,1. El caso de los sistemas triangulares inferiores es análogo. E: - Sea el sistema 10x 1 + 2x 2 + 4x 3 =1 3x 2 + 7x 3 =2 5x 3 =10 es un sistema triangular superior y se substituye desde atrás hacia adelante: x 3 = 1 5 (10) x 2 = 1 3 (2 7x 3) x 1 = 1 10 (1 2x 2 4x 3 ) Por medio de la triangulación de Gauss, el sistema se transforma en uno triangular, equivalente. [A b] Gauss [U c] tal que U es triangular superior y Ax = b Ux = c Nota: El método de triangulación se detalla en el artículo anexo adunto. E: x 1 +4x 2 +4x 3 =15 2x 1 +5x 3 = 1 x 1 +3x 2 +4x 3 =10 La matriz ampliada representativa del sistema es: [A b] = Triangulamos. Primeramente utilizando la primera fila, reducimos la segunda y tercera filas : fil2:=fil2 2 1 fil fil3:=fil3 1 1 fil Sehudamente, en la nueva matriz, utilizando segunda fila reducimos la tercera fila: ( 1) fil3:=fil3 ( 8) fil El proceso de reducción está concluido. El sistema triangular es equivalente al original. -En algunos casos, es necesario permutar filas:

4 En este caso, no es posible reducir utilizando la primera fila. Permutamos: fil1 fil y proseguimos la triangulación. La factorización LU, permite descomponer la matriz, con posible permutación de filas, en dos factores triangulares, inferior y superior, respectivamente. La matriz superior U es la que se obtiene de la Triangulación de Gauss y la inferior L se forma con unos en la diagonal y los coeficientes utilizados en la reducción. A = LU (sin permutación de filas) PA = LU (con permutación de filas) La matriz de permutación P registra las eventuales permutaciones de filas realizadas durante el proceso. Entonces, los sistemas equivalentes son: Ax = b LU = b (sin permutación de filas) A = b LU = Pb(con permutación de filas) A partir de estas factorizaciones, se resulve el sistema en dos pasos: { Ly = b Ux = y ó { Ly = Pb Ux = y en cada caso. E: En el eemplo anterior se obtiene: A = = = LU / No hay permutación. Existen diversas alternativas para la reducción a la forma triangular y otras estructuras de factorización, por eemplo, la factorización QR. 4. Métodos iterativos básicos Los métodos iterativos generan un sucesión de vectores x (k), a partir de uno inicial, x (0) y se pretende la convergencia x (k) x s a la solución del sistema. Método de Jacobi: Si D = a ii 0 es la diagonal de A, a partir de la identidad: Ax = b ((A D)+D)x = b x = D 1 (b (A D)x)

5 y un vector inicial x (0), se genera la sucesión: = D 1 (b (A D)x (k) ) es decir: i = b i i a ix (k) a ii Una condición suficientente de convergencia del método es que la matriz A sea diagonal dominante, es decir: a ii > a i i E: Considere: { Aplicando el esquema de Jacobi: 3x 1 +x 2 =4 x 1 +2x 2 =3 1 = 4 x(k) 2 3 Tomando 2 = 3 x(k) 1 2 ( 0 x 0 = 0) se genera la sucesión convergente a la solución. ( ) ( ) Método de Gauss - Seidel: Es una variante del método de Jacobi. En este caso, el esquema iterativo va empleando cada variable, a medida que es meorada. Dado un vector inicial x (0), se genera la sucesión: i = b i <i a i a ii >i a ix (k) Las condiciones de convergencia son algo más exigentes, pero la convergencia es más rápida que el método de Jacobi. E: En para el sistema anterior, el esquema Gauss-Seidel es: 1 = 4 x(k) 2 3 Tomando 2 = 3 x(k+1) 1 2 ( 0 x 0 = 0) se genera la sucesión convergente a la solución. ( ) ( )

6 5. Cálculo de determinantes Una forma más es calcular el determinante de A a partir de su descomposición LU: A = LU det(a) = det(l) det(u) = det(u) =u 11 u 22...u nn si no hay permutación y PA = LU det(a) =± det(u) =±(u 11 u 22...u nn ) donde el signo ± depende del número de permutaciones de filas. 6. Cálculo de inversas En algunos casos se necesita o desea calcular la inversa A 1 de la matriz. Inversa de una matriz diagonal: D 1 =(d ii ) 1 1 i=1:n = d ii i=1:n Inversa de una matriz 2 2: 1 a11 a 12 1 a22 a = 12 a 21 a 22 (a 11 a 22 a 12 a 21 ) a 21 a 11 Inversa de una matriz de bloques: 1 ( A1 A 2 A 1 = 1 A 1 1 A 2A 1 ) 3 0 A 3 0 A 1 3 En general puede calcularse la inversa resolviendo en forma simultánea las n ecuaciones: AX = I n con algún método directo o indirecto. En particular, la factorización LU. 7. Matrices especiales Las ecuaciones asociadas a matrices de dimensión n n son muy problemáticas: esfuerzo computacional excesivo y propagación del error de redondeo. Algunas estructuras especiales facilitan o hacen posible el almacemamiento y cálculo por partes o por bloques. Una matriz A de dimensión n n es rala, cuando el número de elementos no nulos es aproximadamente kn, siendo k n. E: -las matrices diagonales y sus permutaciones. 0 x x 0 x x x x 0 0 0

7 -las matrices banda. x x x x x x x x x x x x x x x x -matrices de bloques, de dimensión relativamente pequeña. X X X X 0 0 X X 8. Matrices equilibradas. Una matriz se dice equilibrada si el máximo elemento, en valor absoluto, de cada fila y columna es de la misma magnitud. Sitemas asociados a matrices no equilibradas pueden ocasionar serios problemas numéricos. E: Consideramos : A = no es equilibrada y si se trabaa numéricamente con 7 decimales para triangular, por eemplo, se produce error de overfloat. Cuando no son equilibradas, se procura equilibrarlas multiplicando las filas o columnas por constantes. E: En el sistema anterior una primera alternativa para equilibrar la matriz es dividir la segunda y tercera fila: B = pero, redondenado a 7 decimales: la matriz resulta singular. La segunda alternativa es dividir la primera columna: C = Es equilibrada y redondeando se obtiene: una matriz equilibrada y no singular

8 9. Matrices mal condicionadas. Una matriz A R n n puede ser inversible, aín bao efectos del redondeo, pero estar mal condicionada, es decir capaz de multiplicar excesivamente un error en los datos del sistema Ax = b. Más precisamente, si x s es la solución y se perturba el dato b b + b, deberá perturbarse la solución: A(x s + x s )=b + b La matriz está mal condicionada en la medida que error relativo de la solución sea desproporcionado respecto del error relativo del dato. La razón entre los errores relativos están acotados por una constante, propia de la matriz A, llamada número de condición x s x s b b cond(a) Si cond(a) es relativamente chico, puede asegurarse una aceptable proporción entre los errores relativos: x s x s cond(a) b b En contraposición, la matriz está mal condicionada si cond(a), es relativamente grande. En tal caso, puede producierse una catastrófica propagación del error. E: Consideramos el sistema: x1 = x 2 La solución exacta del mismo es: x s = Si ahore se redondea el dato b, a tres decimales: resulta que la solución perturbada es: La relación de las errores relativos es: x p = x s x s b b = El error es anadmisible!. En este caso, puede probarse que: Formalmente, el número de condición, se define: cond(a) = cond(a) = máx x Ax x Ay mín y y Existen diversos métodos numéricos para estimar el número de condición.

9 Una estimación posible es: cond(a) máx( A ). máx( A 1 l l ) donde las normas se toman soble las columnas de a y de su inversa A 1. Esto implica el cálculo de la inversa. E: - La inversa de la matriz del eemplo anterior es A = máx( A ) = A 1 = máx( A ) = A 1 1 = y por tanto: cond(a)