Métodos Numéricos para Sistemas de Ecuaciones No Lineales

Transcripción

1 Uiversidad de Chile Departameto de Igeiería Matemática Métodos Numéricos para Sistemas de Ecuacioes No Lieales MA-33A Gozalo Herádez Oliva GHO SENL - MA-33A 1

2 Sistemas de Ecuacioes No Lieales: SENL 1) Motivació: Modelació y Optimizació No-Lieal Co Restriccioes 2) Itroducció 3) Métodos Numéricos para SENL: y 4) E : Puto Fijo, Bisecció y Newto-Raphso 5) E : Newto-Katorovich y Puto Fijo 6) Métodos Optimizació Co Restriccioes 7) Bibliografía GHO SENL - MA-33A 2

3 Motivació: Modelació e Optimizació Plaificació de Producció (Básico) El pla de producció de u producto cosidera 6 etapas, cada ua de 2 meses. Los datos ecesarios para determiar este pla se muestra e la siguiete tabla. Los costos de producció ivolucra todo lo relacioado a la producció, salvo los costos de almaceamieto que so 2 [$/to] de etapa e etapa. E la etapa 1 hay 500 [to] de producto e bodega y se quiere termiar el año co la misma catidad e bodega. Ecuetre u modelo lieal que maximice igresos, verificado restriccioes de capacidad y de ivetario e la etapa fial del programa. GHO SENL - MA-33A 3

4 Motivació: Modelació e Optimizació Plaificació de Producció (Básico) Etapa Costos de Capacidad de Demada Precio Veta Producció [$/to] Producció [to] Estimada [to] Estimado [$/to] GHO SENL - MA-33A 4

5 Motivació: Modelació e Optimizació Producció bajo Restriccioes Ambietales La calidad del aire de ua regió idustrial depede e gra parte de las evaporacioes de las platas existetes, que puede usar m tipos de combustibles: Sea E j la eergía total que ecesita la plata j y e ij la evaporació producida por uidad de combustible tipo i e la plata j. Sea c i el costo uitario del combustible tipo i, que produce ua catidad f ij de eergía e la plata j. El ivel de cotamiació del aire e la regió o debe exceder p microgramos de partículas por m 3, y supogamos que coocemos u parámetro g j que relacioa la evaporació e la plata j co la geeració de partículas. Obtega u modelo lieal que determie la mezcla de combustibles óptima que debe utilizarse e cada plata de tal maera de miimizar costos, verificar iveles de cotamiació máxima y satisfacer los requerimietos eergéticos. GHO SENL - MA-33A 5

6 Motivació: Modelació e Optimizació Plaificació de Producció (No-lieal) Ua compañía produce u producto para satisfacer ua demada coocida e T períodos. La producció se puede hacer co fuerza laboral estable o temporal. Las variables del modelo so: catidad de producto producido (proporcioal a fuerza laboral), ivel de ivetario y catidad de fuerza laboral temporal. La fució objetivo y restriccioes cosidera: a) Fució Objetivo: Costos de producció (fuerza laboral estable), ivetario y de trabajo temporal (Para evitar fluctuacioes, el costo es proporcioal al cuadrado de la diferecia e la fuerza de trabajo temporal etre dos períodos sucesivos) b) Restriccioes: Balace de demada y capacidad máxima de producció, ivetario iicial y fial Obtega u modelo matemático que determie la programació de la producció. GHO SENL - MA-33A 6

7 Motivació: Modelació e Optimizació Ejecució de Tareas e Clusters de PC U úmero de tareas debe ser ejecutadas e u cluster de p computadores de capacidad u i (i=1,...,p), medida e [mops]. Estos computadores está coectados por redes de comuicació cuyos costos fijo y variable de istalació so f [$] y h [$/mbit]. Las tareas posee u requerimieto de mops dado por α j (j=1,...,) y geera u tráfico de iformació β kj [mbit] etre ellas cuado se ejecuta e computadores diferetes. Sea c i el costo de utilizar el computador i y d ij el costo de ejecutar la tarea j e el computador i Obtega u modelo que determie cuáles computadores debe ser utilizados y e cuál de ellos se ejecuta cada tarea, miimizado costos de flujos de iformació etre computadores, de utilizació de computadores y de ejecució de tareas, respetado sus capacidades. GHO SENL - MA-33A 7

8 Motivació: Optimizació No-Lieal Restrigida Métodos Numéricos: Programació Lieal Programació No - Lieal Míimos Globales Simplex y Puto Iterior: Complejidad Poliomial SEL Míimos Locales Métodos 1 er y 2 o Orde Complejidad NP Métodos Cuasi-Newto SENL GHO SENL - MA-33A 8

9 SENL: Itroducció Problema: Dadas fucioes o-lieales difereciables, ecotrar fi : x = ( x ) = solució del sistema de ecuacioes: i i 1,..., f ( x, x,..., x ) = f2( x1, x2,..., x ) = f ( x, x,..., x ) = GHO SENL - MA-33A 9

10 SENL: Itroducció Ejemplo SENL: 2 2 5x 1 x2 = 0 x (si x + cos x ) = GHO SENL - MA-33A 10

11 SENL: Itroducció Ejemplos SENL: x 1 2 x 1 2x x x x l( x + x ) si( x x ) l(2 π ) = 0 e ( x x ) cos( x x ) = x x 1 3 x 1 2 x 2 x 1 x x 2 x 12 si x x 3 3e x 1x x x 1 cosx 2 x x x six x 0 e x 1x 2 20x GHO SENL - MA-33A 11

12 Métodos Numéricos para SENL Ua Dimesió: Varias Dimesioes: Puto Fijo Bisecció Secate Newto Puto Fijo Primer Orde Newto Cuasi - Newto Cov. Global Vel. Lieal Cov. Global Vel. Lieal Cov. Local Vel. Cuadrática Cov. Global Vel. Sup - Li. GHO SENL - MA-33A 12

13 SENL: Métodos Numéricos e Método de Puto Fijo Diremos que ua fució g : tiee u puto fijo e x 0 ssi: gx ( ) 0 0 El problema de puto fijo (pf) está relacioado co el problema de ecotrar u cero: Si x es cero de f x es pf de g() x = x f () x 0 0 Si x es pf de g x es cero de f () x = x g() x 0 0 = x GHO SENL - MA-33A 13

14 SENL: Métodos Numéricos e Método de Puto Fijo Teorema: Sea g ua fució cotiua e [a,b] a) Si a g( x) b g tiee u puto fijo e [a,b] b) Si además g es derivable e (a,b) y g'( x) 1 para x ( ab, ) el puto fijo es úico Método de Puto Fijo: Ecotrar x ( ab, ) tal que se cumple teo. aterior Iteració PF: x ( ) 0 a, b Covergecia Global y Lieal x = g( x ) k+ 1 GHO SENL - MA-33A 14 k

15 SENL: Métodos Numéricos e Ejemplo Método de Puto Fijo La ecuació: x + 4x 10= Tiee ua raíz e [1,2]. Mediate el Método de Puto Fijo determiar esta raíz x 3 + 4x 2 10 GHO SENL - MA-33A 15

16 SENL: Métodos Numéricos e Ejemplo Método de Puto Fijo La ecuació: 4 x x x 2x+ = Tiee 2 raíces e [-4,4]. Mediate el Método de Puto Fijo determiar estas raíces p(x) Ceros de Poliomios x GHO SENL - MA-33A 16

17 SENL: Métodos Numéricos e Método de la Bisecció f(x) f(x 1 ) f(x 0 ) ε 0 z 1 z 2 z 3 z 4 z 5 x 0 x 1 GHO SENL - MA-33A 17

18 SENL: Métodos Numéricos e Método de la Bisecció Dividir por la mitad el itervalo que cotiee la raíz repetidamete, localizado e cada iteració la mitad que cotiee la raíz Sea el tamaño del itervalo -és. ε ε ε 0 ε = + 1 ε 2 = 2 Número de iteracioes: log 2 ε ε 0 = Covergecia Global y Lieal Precisió Buscada GHO SENL - MA-33A 18

19 SENL: Métodos Numéricos e Método de la Secate f (x) x GHO SENL - MA-33A 19

20 SENL: Métodos Numéricos e Método de Newto - Raphso Dada ua fució suficietemete regular, el Teorema de Taylor asegura que: f : f ''( ξ ( x)) f ( x) = f( x) + f '( x)( x x) + ( x x) 2 2 Si x x 0 y f ( x ) = 0 x = x f ( x) f '( x) GHO SENL - MA-33A 20

21 SENL: Métodos Numéricos e Método de Newto - Raphso Iteració del Método: x 0 x = k+ 1 x k cercao a x f( x ) f '( x ) Se calcula f '( x k ) e forma exacta o aproximada segú: f ( xk) f( xk 1) f '( x ) = x x ε k x k k GHO SENL - MA-33A 21 k x k 1 k k 1

22 SENL: Métodos Numéricos e Método de Newto - Raphso Teorema: Sea f ζ 2 [ ab, ]. Sea tal que: Etoces existe δ > 0 tal que el método de Newto geera ua sucesió { x } = que coverge a x para cualquier f ( x) = 0 f '( x) 0 k x0 ( x δ, x + δ ) k 1 x GHO SENL - MA-33A 22

23 SENL: Métodos Numéricos e Método de Newto - Raphso Propiedades Pricipales Covergecia Local: Velocidad Cuadrática: x x x + δ 0 δ, ( ) f ''( xk ) f ( x) = f( xk) + f '( xk)( x xk) + ( x xk) 2 f ''( ξ ) 2 x x = x x ξ ( x, x) k+ 1 k k 2 f '( xk ) GHO SENL - MA-33A 23 2

24 SENL: Métodos Numéricos e Método de Newto Raphso: Divergecia 3 x 2 1 GHO SENL - MA-33A 24

25 SENL: Métodos Numéricos e Método de Puto Fijo U campo vectorial F : x f1( x) f ( x) f ( ) x 2 F( x) = formado por campos escalares f tiee u i : puto fijo x e D= [ a, b ] [ a, b ] [ a, b ] si: F( x) GHO SENL - MA-33A 25 = x

26 SENL: Métodos Numéricos e Método de Puto Fijo Teorema: Sea F u campo vectorial cotiuo e D a) Si F( x) D x D F tiee u puto fijo e D b) Si además F es derivable co cotiuidad e D y: f x i j K para x D y K < 1 el pf es úico i,j = 1,, Método de Puto Fijo: Ecotrar D tal que se cumple teorema aterior Sea x 0 D x k + 1 = k F( x ) Covergecia Global Velocidad Lieal GHO SENL - MA-33A 26

27 SENL: Métodos Numéricos e Método de Puto Fijo: Ejemplo Revisar!!! k x x cos( x x ) = x 81( x + 0.1) + si x = 0 xx 1 2 e x π x (10 3) = 0 GHO SENL - MA-33A 27 3 x k k 1 x x

28 SENL: Métodos Numéricos e Método de Newto Katorovich: Dado u campo vectorial formado por campos escalares fi : regulares. El Teorema de Taylor e asegura que: GHO SENL - MA-33A 28 F : 1 x F( x) f ( x) f ( x) f ( ) x 2 = 1 f y = f x + f x y x + y x f ξ x y x 2 t t 2 i( ) i( ) i( ) ( ) ( ) ( ( ))( )

29 SENL: Métodos Numéricos e Método de Newto Katorovich: Para el campo vectorial F, se tiee etoces que: ( 2 ) F( y) = F( x) + F( x)( y x) + O y x f1() x f1() x f1( y) f1( x) x1 x y1 x1 = + + O y x f() y f() x f() x f() x y x x1 x ( 2 ) GHO SENL - MA-33A 29

30 SENL: Métodos Numéricos e Método de Newto - Katorovich x 0 cercao a x k+ 1 k k 1 k x = x F( x ) F( x ) Dode: fi ( x) ( ) = ij x [ F x ] Sus propiedades so: Covergecia Local Velocidad Cuadrática Iversió Matricial GHO SENL - MA-33A 30 j

31 SENL: Métodos Numéricos e Método de Newto - Katorovich: Ejemplo Revisar!!! k x x cos( x x ) = x 81( x + 0.1) + si x = (10 3) = 0 xx 1 2 e x π x GHO SENL - MA-33A 31 3 x k k 1 x x

32 SENL: Métodos Numéricos e 1) 2) x 2 1 x 1 2x x x lx 2 1 x 2 2 six 1 x 2 l2 0 e x 1 x 2 cosx1 x 2 0 Método de Newto - Katorovich: Más Ejemplos x x ) x 1 3 x 1 2 x 2 x 1 x x 2 x 12 si x x 3 3e x 1x x ) 3x cos( x x ) = x 81( x + 0.1) + si x = e + 20 x + (10π 3) = x xx GHO SENL - MA-33A 32

33 SENL: Métodos Numéricos e Métodos de Optimizació Si Restriccioes: Se puede aplicar los métodos de optimizació si restriccioes a la búsqueda de ceros de campos vectoriales. E efecto, se tiee que: El vector x verifica: f ( x) = 0 k = 1,..., ssi solucioa el problema de optimizació o lieal: x1,..., x k = 1 fk x1 x GHO SENL - MA-33A 33 k [ ] mi (,..., ) 2

34 SENL: Optimizació Co Restriccioes: Teoría Programació No - Lieal x 2 g ( x) 0 2 mi f( x) sa.. g ( x) 0 i= 1,..., p i x g ( x) 0 1 g ( x) 0 3 g ( x) 0 4 x 1 GHO SENL - MA-33A 34

35 Motivació: Optimizació No-Lieal Restrigida Codicioes de Optimalidad: Karush - Kuh - Tucker x 2 g ( x ) = 0 2 g ( x) 2 f( x) x g ( x) 1 g ( x ) = 0 1 p f( x) + μ g ( x) = 0 k= 1 μkgk( x) = 0 k = 1,..., p g ( x) 0 k = 1,..., p k k k x 1 GHO SENL - MA-33A 35

36 Motivació: Optimizació No-Lieal Restrigida Codicioes de Optimalidad: Karush - Kuh Tucker: Método de Activació de Restriccioes: Dado el problema de programació o-lieal: mi f( x) sa.. g ( x) 0 i = 1,..., p Ua restricció es activa e x si: i x g ( x ) = 0 k GHO SENL - MA-33A 36

37 Motivació: Optimizació No-Lieal Restrigida Codicioes de Optimalidad: Karush - Kuh Tucker Para resolver el sistema de Karush - Kuh Tucker aplicamos el Método de Activació de Restriccioes: 1) Establecer las combiacioes de activació 2) Para cada combiació de activació: i) Determiar el sistema K-K-T aplicado las codicioes de holgura ii) Resolver el sistema iii) Verificar la factibilidad de la solució ecotrada e ii) 3) La solució es el puto estacioario + factible ecotrado de míimo valor. GHO SENL - MA-33A 37

38 SENL: Métodos de Optimizació Si Restriccioes Primer Orde Método del Gradiete y Variedades Método del Gradiete Cojugado Método de Fletcher-Reeves Segudo Orde Métodos de Newto Variedades Cuasi-Newto DFP: Davido - Fletcher - Powell BFGS Pealizació Iterior Exterior GHO SENL - MA-33A 38

39 SENL: Métodos de Optimizació Si Restriccioes Etapa 0: Etapa 1: Etapa 2: Método de Gradiete Seleccioar u puto iicial x 0 R k 0 Calcular fx k Si fx k 0 STOP Si o, seguir a Etapa 2. d k fx k Calcular: k solució del problema ui-dimesioal: mi h x k,d fx k k d k fx k 0 x k1 x k k d k k k 1 y volver a Etapa 1. Miimizació e 1 dimesió GHO SENL - MA-33A 39

40 SENL: Métodos de Optimizació Si Restriccioes Ejemplo Método de Gradiete k x k fx k fx k fx k k , , , , , , , , , , , , , , , , mi x x 1 2x 2 2 x 1,x 2 2 GHO SENL - MA-33A 40

41 SENL: Métodos de Optimizació Si Restriccioes Etapa 0: k g 0 qx 0 Qx 0 b d 0 qx 0 Etapa 1: k gk t d k d k t Qd k Etapa 2: Seleccioar u puto iicial x 0 R x k1 x k k d k Si x k1 x k 0 STOP Si o, seguir a Etapa 2. g k1 qx k1 Qx k1 b k gk1 t Qd k d k t Qd k d k1 g k1 k d k k k 1 y volver a Etapa 1. Método Gradiete Cojugado mi q( x) 1 = 2 Qx + b GHO SENL - MA-33A 41 x t t x

42 SENL: Métodos de Optimizació Si Restriccioes Método de Fletcher - Reeves Etapa 0: Seleccioar u puto iicial x 0 R Etapa 1: Etapa 2: k 0 d 0 fx 0 Calcular k solució del problema uidimesioal: k arg mi fx k d k 0 x k1 x k k d k Si x k1 x k 0 STOP Si o, seguir a Etapa 2. Calcular fx k1 k fxk1 t fx k1 fx k t fx k d k1 fx k1 k d k k k 1 yvolveraetapa1. Miimizació e 1 dimesió GHO SENL - MA-33A 42

43 SENL: Métodos de Optimizació Si Restriccioes Ejemplo Método de Fletcher - Reeves k x k fx k fx k fx k k , , , , , , , , mi x x 1 2x 2 2 x 1,x 2 2 GHO SENL - MA-33A 43

44 SENL: Métodos de Optimizació Si Restriccioes Método de Newto Etapa 0: Seleccioar u puto iicial x 0 R k 0 Etapa 1: Calcular fx k Si fx k 0 STOP Si o, calcular 2 fx k, 2 fx k 1 y seguir a Etapa 2. Etapa 2: Calcular: x k1 x k 2 fx k 1 fx k k k 1 y volver a Etapa 1. GHO SENL - MA-33A 44

45 SENL: Métodos de Optimizació Si Restriccioes k x k fx k fx k 2 fx k 2 fx k 1 fx k , , , , , , , , , , , , , , , , , , Ejemplo Método de Newto x1,x 2 2 mi x x 1 2x 2 2 GHO SENL - MA-33A 45

46 SENL: Métodos de Optimizació Si Restriccioes Método DFP: Davido Fletcher -Powell Etapa 0: Seleccioar u puto iicial x 0 R Iicializar S 0 I k 0 Etapa 1: Calcular g k fx k Etapa 2: Calcular: Si g k 0 STOP Si o, calcular x k1 x k t k S k g k dode t k 0 se escoge segú regla de Goldstei y seguir a Etapa 2. p k x k1 x k, q k g k1 g k S k1 S k pk p k t p k t q Sk q k q k t S k k q k t S k q k k k 1 y volver a Etapa 1. GHO SENL - MA-33A 46

47 SENL: Métodos Optimizació co Restriccioes Ejemplo Optimizació e Matlab mi sa.. x x x + x g ( x) = x + x g ( x) = x g ( x) = x > [x,y] = meshgrid(-2:0.05:2); > z=x.^3.-x.^2.*y.^2.+y.^3; > mesh(x,y,z); Visualizació e Matlab GHO SENL - MA-33A 47

48 SENL: Métodos Optimizació co Restriccioes Ejemplo Optimizació e Matlab cpl.m fuctio [c,ceq] = cpl(x) c = zeros(3,1); c(1) = x(1)^2 + x(2)^2-1; c(2) = -x(1); c(3) = -x(2); ceq = []; mi x x x + x sa g ( x) = x + x 1 0 g2( x) = x1 0 g ( x) = x epl.m fuctio y = epl(x,a) y = x(1)^3 +a*x(1)^2*x(2)^2 + x(2)^3; Optimizació e Matlab >x0=[1;1]; a=-1; >[xmi,f_xmi]=fmico(@(x)epl(x,a),x0,[],[],[],[],[],[],@(x)cpl(x)); GHO SENL - MA-33A 48

49 Bibliografía SENL 1) R. Burde & J. D. Faires, Aálisis Numérico, Séptima Edició, Thomso Learig, ) M Bazaraa, H. Sherali, C. M. Shetty, Noliear Programmig: Theory ad Algorithms, Joh Wiley & Sos, ) D. Lueberger, Liear ad Noliear Programmig, Secod Editio, Addiso-Wesley, ) M. Mioux, Mathematical Programmig: Theory ad Algorithms, Joh Wiley ad Sos, GHO SENL - MA-33A 49