X=f(X) SUSTITUCIÓN SUCESIVA O ITERACION DIRECTA O PUNTO FIJO ACELERACIÓN DE LA CONVERGENCIA (WEGSTEIN) F(X)=0 BISECCIÓN NEWTON-RAPHSON

UNA UNICA ECUACIÓN X=f(X) SUSTITUCIÓN SUCESIVA O ITERACION DIRECTA O PUNTO FIJO ACELERACIÓN DE LA CONVERGENCIA (WEGSTEIN) F(X)=0 BISECCIÓN NEWTON-RAPHSON SECANTE + SECANTE MEJORADO REGULA FALSI O FALSA POSICIÓN SISTEMAS DE ECUACIONES MISMOS MÉTODOS MÉTODOS QUASI-NEWTON (BROYDEN) [F(X)=0]

5. MÉTODOS DE RESOLUCIÓN DE SISTEMAS DE ECUACIONES NO LINEALES. 5.1. MÉTODO DE SUSTITUCIÓN SUCESIVA X=F(X) El método es totalmente análogo al estudado para una únca varable. Se trata de reescrbr el sstema de la forma =F(). Llamaremos a una teracón y +1 a la sguente. El esquema teratvo de este método es pues: =F ( ) +1 (ENL.21) lo que mplca que para cada ecuacón: =F ( ) +1 (ENL.22) donde el superíndce hace referenca a las dstntas ecuacones del sstema. El crtero para detener las teracones suele ser + < 1 ε d (ENL.23) Se puede desarrollar un crtero de convergenca sufcente para el método de susttucón sucesva cuando se parte de unos valores ncales sufcentemente cerca de la solucón. S consderamos la epansón en seres de Taylor del sstema de ecuacones F(): F F( ) = F( 1) + ( 1) +... T 1 (ENL.24) En esta ecuacón (δf/δ) es la matrz JACOBIANA con los valores de todas las dervadas parcales. Suponendo que en las cercanías de la F solucón cte T F + 1 = F( ) F( + 1) = ( 1) (ENL.25)

5.1. MÉTODO DE SUSTITUCIÓN SUCESIVA (CONT) o ben T F + 1 = + 1 = (ENL.26) Recordando que para las normas se cumple AB A B tenemos: F +1 (ENL.27) T Utlzando la norma dos A ( A A) = y recordando que partmos de un punto sufcentemente cercano a la solucón (es decr la 2 λ ma dervada de F() es práctcamente constante en todas las teracones): ( ) 0 + λ (ENL.28) 1 ma donde es el número de la teracón. Es decr el sstema converge cuando el valor absoluto del mámo valor propo de la matrz Jacobana de F que contene todas las dervadas parcales es menor que la undad. La ecuacón anteror permte estmar el numero de teracones para alcanzar una toleranca ( +1 = ~ ε) dada: n ter Log Log ε 0 ( λ ) ma (ENL.29)

5.1. MÉTODO DE SUSTITUCIÓN SUCESIVA (CONT) λ ma ε=0.0001 n 0.1 4 0.5 14 0.99 916 Ejemplo: Un crtero equvalente al anteror y relatvamente cómodo para comprobar la convergenca sn calcular los valores propos es comprobar que los sumatoros de las dervadas parcales respecto a cada varable en el punto de partda * son menores que la undad: n j= 1 F * ( ) j < 1, para todas las funcones F que consttuyen el sstema. Cuando solo tenemos una ecuacón, el crtero de convergenca es que la dervada prmera sea menor que la undad en *. En el caso en que tengamos dos ecuacones g 1 (,y) y g 2 (,y) debe cumplrse: g1 g 2 g y 1 ( *, y *) + ( *, y *) g y 2 ( *, y *) + ( *, y *) < 1 ambos < 1 (ENL.30) Las prncpales ventajas de este método son: facldad para programarlo para certos tpos de problemas que aparecen en Ingenería Químca este método es muy adecuado (recrculacón). La prncpal desventaja: no converge en muchos casos y en otros la convergenca es muy lenta.

VARIANTES METODO PUNTO FIJO:

5.2. MÉTODOS DE RELAJACIÓN (ACELERACIÓN) X=F(X) Para problemas donde λ está cercano a la undad, el método de susttucón sucesva converge lentamente. ma En su lugar podemos alterar la funcón de punto fjo F() con el objeto de acelerar la velocdad de convergenca: ) + 1 = w g( ) + (1 w (ENL.31) donde el valor de w se adapta a los cambos en y en F(). Los dos métodos más mportantes son el método del valor propo domnante y el método de Wegsten. 5.3. MÉTODO DEL VALOR PROPIO DOMINANTE (DEM DOMINANT EIGENVALUE METHOD) X=F(X) Este método hace una estmacón de λ calculando la relacón: ma λ (ENL.33) ma 1 Se puede demostrar que el valor óptmo del parámetro w vene dado por: 1 w = (ENL.34) 1 λ ma (Nota: En la obtencón de la ecuacón anteror se admte que todos los valores propos son reales y que el valor propo mámo y mínmo no son muy dferentes. S estas condcones no se cumplen el método podría fallar).

5.4. MÉTODO DE WEGSTEIN X=F(X) Este método obtene el factor de relajacón w aplcando el método de la secante (Wegsten undmensonal) a cada una de las varables ndependentemente; es una etensón drecta del método undmensonal: + 1 = w F( ) + (1 w ) (ENL.35) donde: w 1 = 1 s (ENL.36) s ( 1 ) 1 F ( ) F = (ENL.37) donde representa una varable y una teracón. Fgura 3. Método de Wegsten. El método de Wegsten funcona ben cuando no hay mucha nteraccón entre los componentes, por otra parte teracones y cclos enlazados causan dfcultades con este método. Normalmente se suelen realzar de 2 a 5 teracones drectas y sólo entonces se camba a los métodos de valor propo domnante o Wegsten.

5.5. MÉTODO DE NEWTON RAPHSON F(X)=0 Sn duda, el método de Newton es el método más etenddo para resolver sstemas de ecuacones no lneales y, sn nnguna duda, es el método que debería utlzarse salvo casos especales- para resolver un sstema de ecuacones no lneal. Para el sstema undmensonal (una sola ecuacón) se obtene según vmos anterormente: ( ) ( ) f + 1 = f = 0, 1, 2, 3... ' Consderemos un sstema de ecuacones de la forma f ( ) = 0, donde es un vector de n varables reales y f() es un vector de n funcones reales. S se supone un valor para las varables en un punto dado, dgamos s es posble desarrollar en sere de Taylor alrededor del punto s para etrapolar la solucón al punto *. Escrbendo cada elemento del vector de funcones f: T * * f * * * 2 2 1 T s s f s ( ) ( ) ( ) f ( ) 0 = f ( ) + + +... = 1... n 2 (ENL.38) O ben 1 T ( ) ( ) ( ) * * s T * s * s 2 s * s f ( ) 0 = f ( ) + f ( ) + f ( ) +... = 1... n (ENL.39) 2 s T 2 s Donde f ( ) y f ( ) son el vector gradente y la matrz Hessana de la funcón f ( ) respectvamente. S truncamos la sere de forma que se consderen sólo los térmnos de prmer orden, se tene que: f ( s + p) 0 = f ( s ) + J( s ) p (ENL.40) * Donde se ha defndo el vector p = ( s ) como una dreccón de búsqueda haca la solucón del sstema de ecuacones y los elementos de la matrz J corresponden a: { J}, = para la fla y la columna j de dcha matrz. (ENL.41) j f j

5.5. MÉTODO DE NEWTON RAPHSON (CONT) La matrz J se llama matrz Jacobana (o smplemente Jacobano). S la matrz jacobana no es sngular, se puede resolver drectamente el sstema lneal de ecuacones: s s J( ) p = f ( ) (ENL.42) O ben calcular eplíctamente la nversa de la matrz jacobana, aunque, como se comentó en le capítulo relaconado con la resolucón de sstemas de ecuacones lneales, es mucho más efcente resolver el sstema que calcular eplíctamente la nversa de la matrz Jacobana: * s = 1 ( s ) ( s ) J f (ENL.43) La ecuacón anteror permte desarrollar una estratega para encontrar el vector solucón *. Comenzando con un valor supuesto ncal para el vector de varables ( 0 ), se puede establecer la sguente fórmula de recursón: 1 J( ) p = f ( ) donde p = + (ENL.44) La fórmula de recursón anteror se puede formalzar en el sguente algortmo básco del método de Newton: Algortmo 1. Suponer un valor para el vector. p.e. 0. Hacer = 0 2. Calcular f ( ), J ( ) 1 3. Resolver el sstema de ecuacones lneales J( ) p = f ( ) y calcular + = + p 4. Comprobar la convergenca: S f T ( ) f ( ) ε1 y ( p ) T ( p ) ε2 parar. Donde ε1, ε 2 son tolerancas para la termnacón prómas a cero. 5. En otro caso, hacer = + 1 e r al punto 1.

5.5. MÉTODO DE NEWTON RAPHSON (CONT)

5.5. MÉTODO DE NEWTON RAPHSON (CONT) El método de Newton tene unas propedades de convergenca muy nteresantes. En partcular el método converge muy rápdamente en puntos cercanos a la solucón. De forma más precsa se puede decr que el método de Newton tene convergenca cuadrátca, dada por la relacón: * 1 * 2 K (ENL.45) Donde ( T ) 1 2 = es la norma Euclídea, que es una medda de la longtud del vector. 1 Una forma de nterpretar esta relacón es pensar en el caso en el que K=1. S en un momento dado se tene una precsón para de 1 * un dígto. Esto es = 0.1. Entonces en la sguente teracón se tendrán dos dígtos de precsón, en la sguente 4 y en sucesvas teracones ocho, decsés etc. Por otra parte, esta rápda velocdad de convergenca sólo ocurre s el método funcona de forma correcta. El método de Newton podría fallar por dferentes razones, sn embargo las condcones sufcentes para que el método de Newton converja son las sguentes: 1. Las funcones f ( ) y J( ) esten y están acotadas para todos los valores de. 2. El punto ncal 0, está sufcentemente cerca de la solucón. 3. La matrz J() debe ser no sngular para todos los valores de. A contnuacón se consderará en detalle cada una de las condcones anterores así como las meddas a adoptar s no se cumple alguna de las condcones.

(NEWTON) FUNCIONES Y DERIVADAS ACOTADAS Por smple nspeccón es posble re-escrbr las ecuacones para evtar dvsones por cero o domnos donde las funcones no están defndas. Además, es posble añadr nuevas varables y ecuacones con el objetvo de elmnar problemas de tpo numérco. Los sguentes dos ejemplos srven para lustrar estos casos: Resolver la ecuacón 3/ t f ( t) 10 e 0 = = Para valores de t prómos a cero el valor tanto de la eponencal como de su dervada se hace ecesvamente grande (tende a nfnto a medda que t tende a cero). En su lugar, es posble defnr una nueva varable y añadr la ecuacón t 3 = 0. Esto lleva a un sstema de ecuacones mayor, pero en el que las ecuacones están formadas por funcones acotadas. Así se resolvería el sstema: 3 = t f ( ) = 10 e = 0 1 f2( ) = t 3 = 0 (ENL.46) Donde la matrz Jacobana será: e 0 J ( ) = t (ENL.47) Señalar que ambas funcones así como el Jacobano permanecen acotados para valores fntos de. Sn embargo, la matrz J todavía podría hacerse sngular para certos valores de y t. Resolver la ecuacón f ( ) = Ln( ) 5 = 0 En este caso el logartmo no está defndo para valores no postvos de la varable. Este problema se puede reescrbr utlzando una nueva varable y una nueva ecuacón. Así pues defnmos la varable 2 = Ln( 1 ) y por lo tanto el nuevo sstema de ecuacones queda como: 1 1 2 2 2 f = e = 0 f = 5 = 0 (ENL.48) Donde la matrz Jacobana vene dada por: 1 e 2 J ( ) = 0 1 De nuevo, todas las funcones están defndas y acotadas para valores fntos de la varable.

(NEWTON). CERCANÍA A LA SOLUCIÓN En general, asegurar que un punto está cerca de la solucón no es práctco y además el concepto de cercanía a la solucón depende de cada problema en partcular. Por lo tanto, s el punto de partda es malo, se necesta controlar de alguna manera que el método avance haca la solucón. En el método de Newton esto se puede consegur controlando la longtud de paso en cada teracón, de tal forma que el avance haca la solucón puede venr dado por un paso completo del método de Newton o una fraccón de este. Matemátcamente se puede epresar de la sguente manera: + 1 = +αp (ENL.49) Donde alfa es un parámetro que puede tomar valores entre cero y uno, y p es la dreccón predcha por el método de Newton. Por supuesto, s α=1 se recupera el paso completo de Newton. Es necesaro desarrollar ahora una estratega que permta elegr automátcamente el valor de α de forma que asegure que el método de Newton converge. (Búsqueda undrecconal de Armjo) (NEWTON). SINGULARIDAD EN EL JACOBIANO. MODIFICACIÓN DE LA DIRECCIÓN DE NEWTON S el Jacobano es sngular, o cercano a la sngulardad (y por lo tanto mal condconado) la dreccón dada por el método de Newton es ortogonal (o cas ortogonal) a la dreccón de mámo descenso de φ( ). La dreccón de mámo descenso vene dada por la dreccón contra gradente ( φ( ) ) que tene da la máma reduccón en la funcón φ( ) para longtudes de paso sufcentemente pequeñas. (Método Dogled de Powel) (Método de Levenverg y Marquardt)

EXAMEN DICIEMBRE 2003: Realce al menos una teracón completa para resolver el sguente sstema de ecuacones utlzando el método de Newton. Comence desde el punto T =(1,1) + + =4 =2

5.8. MÉTODOS CUASI-NEWTON. EL MÉTODO DE BROYDEN F(X)=0 Los métodos cuas-newton tenen en común que tratan de evtar el cálculo de la matrz de dervadas parcales en cada teracón. La matrz se estma al prncpo del procedmento y se actualza en cada teracón. Esten varos métodos cuas-newton, el más utlzado de todos es el debdo a Broyden. La funcón de teracón de este método es: ( ) + = H f 1 (ENL.71) donde H es la -esma estmacón de la nversa de la matrz jacobana. S desarrollamos en sere de Taylor f(+1) en los alrededores de : f f f ( ) = ( ) + ( ) + ( ) +... + ( ) f + 1 f 1, + 1 1, 2, + 1 2, n, + 1 n, 1 2 n S suponemos conocdos los valores de ( ) ( ) f ( ) p (, f ) y (, f ( )) + + = + 1 = ; y = f + 1 (ENL.72) 1 1 como un método de secante, entonces llamando De esta forma la ecuacón para f(+1) se puede reescrbr como: y=b+1p (ENL.73) donde B+1 es la estmacón del jacobano que estamos buscando. La matrz B +1 la podemos descomponer en suma de dos, de tal forma que: B+1=B+D (ENL.74)

5.8. MÉTODOS CUASI-NEWTON. EL MÉTODO DE BROYDEN (CONT.) susttuyendo obtenemos: y = (B + D ) p (ENL.75) y = B p + D p (ENL.76) Dp=y-Bp (ENL.77) La parte derecha de esta últma ecuacón contene solamente vectores conocdos, la ecuacón tene que ser resuelta para D. Esta ecuacón tene nfnto número de solucones de la forma: D = ( ) y B p T z T z p donde zt es un vector arbtraro. Por lo tanto la matrz B +1 que estábamos buscando será: B+ = B + ( ) y Bp T z T z p (ENL.78) 1 (ENL.79) Esta no es la forma fnal todavía, ya que la ecuacón anteror proporcona una manera de estmar la matrz jacobana, pero nos nteresa la matrz nversa de la jacobana, para ello utlzamos la fórmula debda a Sherman-Morrson, que dce: H+ = H ( ) Hy p z T H T z Hy 1 (ENL.80)

5.8. MÉTODOS CUASI-NEWTON. EL MÉTODO DE BROYDEN (CONT.) Broyden encontró por epermentacón numérca que el mejor valor para zt es p T, por lo tanto la forma fnal de la ecuacón para calcular la matrz H+1 es: H + = H ( ) H y p p T H T p H y 1 (ENL.81) como estmacón ncal de H 0 hay varas opcones, o ben se hace H 0 =I (equvalente a la susttucón sucesva para la prmera teracón), se calcula la nversa del verdadero Jacobano en la prmera teracón, se toma como prmera apromacón del Jacobano una matrz dagonal con los valores correspondentes a la dagonal prncpal del Jacobano. El algortmo se puede resumr en los sguentes pasos: 1.- Especfcar los valores ncales para 0 y H0 2.- Calcular f(0) 3.- Calcular +1 y f(+1) 4.- Calcular y, p, y H+1 5.- Chequear el crtero de fnalzacón ( por ejemplo + 1 < ε d ), s se satsface termnar, en caso contraro ncrementar el contador =+1 y volver a la etapa 3. El método de Broyden se usa para problemas a gran escala. Es tambén muy adecuado para usar en sstemas de recrculacón.

EXAMEN JUNIO 2003: Se ha de resolver el sguente sstema de ecuacones: Pon el sstema en una forma adecuada para operar por el método de susttucón sucesva y por el método de Broyden. Partendo del punto P B = P T = 100, haz la prmera teracón para cada uno de estos métodos. En el método de Broyden, toma como prmera apromacón de la matrz jacobana la matrz dentdad.

MATLAB Bult n Functon (1) The bult n fzero functon (Optmzaton Toolbo) s a hybrd method that combnes bsecton, secant and reverse quadratc nterpolaton to a fnd the root of f() = 0 Synta: = fzero( fun,0) X0 can be scalar or a two element vector If 0 s a scalar, fzero tres to create ts own bracet If 0 s a two element vector, fzero uses the vector as a bracet MATLAB Bult n Functon (2) The bult n fsolve functon (Optmzaton Toolbo) s an M-fle functon to solve a system of nonlnear equatons: Synta: f (, = fsolve( fun,0) 1 2 n 1 1 1, K,, K,, K, ) = 0 ) = 0 ) = 0 0 s a vector of ntal estmate of the roots 2 f (, M 2 f (, 2 n n n