PROBLEMAS DE OPTIMIZACIÓN CON RESTRICCIONES. PROBLEMA DE PROGRAMACIÓN NO- LINEAL (NLP).

Transcripción

1 PROBLEMAS DE OPTIMIZACIÓN CON RESTRICCIONES. PROBLEMA DE PROGRAMACIÓN NO- LINEAL (NLP.

2 Optimización con restricciones La presencia de restricciones reduce la región en la cual buscamos el óptimo. Los criterios de optimalidad vistos hasta ahora no siempre se cumplen ( = ( 2 2 ( = 0, = 2 Pero si 4 entonces el mínimo tiene que ser en =4 y este no es un punto estacionario ya que ' ( 4 = 4, por tanto no es el punto estacionario de

3 Problemas con restricciones de igualdad min s.a. h (, 2, K, N (,, K, = 0 =, K, K 2 N Método de eliminación de variables: eliminando, K variables independientes, el problema se convierte en un problema sin restricciones La dimensión del problema se reduce de N a N-K El problema que se obtiene se puede resolver con cualquier algoritmo de optimización sin restricciones

4 Problemas con restricciones de igualdad 2 Eemplo: min s.a. h ( = 23 ( = + + = min Eliminamos 3 (, = ( Pero si ( = h = No es posible eliminar ninguna variable eplícitamente Es necesario encontrar un método que permita manipular las restricciones

5 Problemas con restricciones de igualdad 3 Método de los multiplicadores de Lagrange: Transorma el problema original a uno equivalente sin restricciones mediante los multiplicadores de Lagrange. Minimizar (, 2,..., N Sueto a h (, 2,..., N = 0 =,2,...,K Se transorma en: Minimizar L(,v = ( - K i = v i h i ( Solución: encontrar el mínimo de L(,v en unción de v y austar v para satisacer las restricciones. => Se obtiene un sistema de ecuaciones cuya solución es el óptimo de la unción original.

6 Problemas con restricciones de igualdad 4 Sistema con N+K ecuaciones y N+K incógnitas ( y v: L i = 0 i =,..., N h ( = 0 =,... K Para saber si es máimo o mínimo se calcula la matriz Hessiana de L con respecto a : Si H L (;v es deinida positiva => mínimo Si H L (;v es deinida negativa => máimo Etendiendo los multiplicadores de Lagrange a restricciones de desigualdad, tenemos las condiciones de uhn-tucer

7 Problema de Programación no-lineal (NLP min s.a g h ( ( 0 ( = 0 = (, K, N =, K,J =, K,K ( 0 Se dice que g es una restricción activa en el punto si ( 0 g = y es inactiva si g ( > 0 Un punto actible es aquél que satisace las restricciones Una región actible es la zona donde se satisacen las restricciones g g ( = 0 ( > 0

8 Condiciones de Kuhn-Tucer Encontrar los vectores ( N, μ( J, λ( K que satisaga las siguientes condiciones: ( J K μ g ( λ h ( = 0 = = g μ ( 0 h ( = 0 μ g ( = 0 0 =,2,...,J =,2,...,K =,2,...,J =,2,...,J

9 Interpretación de las condiciones de KT min s.a h ( ( = 0 =, K, K ( h ( = 0 λ h ( = 0 Condiciones de KT L ( ; λ = ( λ h ( Función de Lagrange ( λ = h ( = 0 ( λ h ( L( = = 0 Condiciones de L Optimalidad de primer orden Las condiciones de KT son las condiciones de optimalidad de primer orden del Problema de Lagrange

10 Teorema de Necesidad de Primer Orden min s.a g h ( ( 0 ( = 0 = (, K, N =, K,J =, K,K Sean, g, y h unciones dierenciables, y una solución actible del problema. { ( } Sea I = g 0. Además g ( I y h son linealmente = ( independientes. Si es una solución óptima del problema entonces eiste ( μ,λ ( tales que, μ, λ resuelve las condiciones de KT ( I ( A las condiciones de que g y h sean linealmente independiente en el óptimo se le llama restricción de cualiicación

11 Restricción de Cualiicación Para algunos problemas de programación no lineal, además las restricciones de cualiicación se satisacen cuando:. Todas las restricciones de desigualdad e igualdad son lineales 2. Cuando todas las restricciones de desigualdad son unciones cóncavas y las de igualdad son lineales y eiste al menos una solución actible, estrictamente dentro de la región actible de las restricciones de desigualdad. Cuando la restricción de cualiicación no se alcanza en el óptimo, puede que no eista solución al problema de KT Condición necesaria: si el punto no cumple las condiciones de KT no es óptimo, pero si las cumple puede ser óptimo o no.

12 Teorema de Suiciencia de Primer Orden min s.a g h ( ( 0 ( = 0 = (, K, N =, K,J =, K,K Sea la unción ( convea, las restricciones de desigualdad g ( =,...,J todas cóncavas, y las restricciones de igualdad h ( =,..., K son lineales. ( Si eiste una solución, μ, λ que satisace las condiciones de KT, entonces es una solución óptima del problema de NLP. Condición suiciente: si cumple las condiciones de KT => es óptimo.

13 Qué haríamos si las unciones no son dierenciables?

14 Condiciones de ensilladura o punto de inleión Deinición: Se dice que una unción (,y tiene un punto de inleión en (,y si: Para todas las y y. (, y (, y (, y X minimiza la unción (,y para todas las y maimiza la unción (,y para todas las y

15 Problema de punto de silla de KT min s.a g ( ( S 0 =, K,J El problema de punto de silla o de inleión de Kuhn-Tucer es el siguiente, encontrar un punto (, μ tal que: L (, μ L(, μ L(, μ μ 0 S Donde: L (, μ = ( g ( μ

16 Teorema de Suiciencia de Optimalidad ( Si, μ es un punto de inleión de KT, entonces es una solución al problema de programación no lineal No se necesita la suposición de conveidad de las unciones No se invoca la restricción de cualiicación El teorema da la suiciencia. Pudiera eistir algunos problemas de programación no lineal, para las cuales no eista un punto de inleión, incluso aunque tenga solución óptima

17 Teorema de Necesidad Sea el valor que minimiza la unción ( sueta a las restricciones g ( 0, =, K,J, S. Asumimos que S es un conunto conveo, ( es una unción convea, y g son unciones cóncavas en S. Asumimos también que eiste un punto S tal que g ( > 0. Entonces eiste un vector de multiplicadores μ 0 tales que (, μ sea un punto de ensilladura o de inleión de la unción de Lagrange que satisace: L L ( 0 (, μ = ( g ( μ (, μ L(, μ L(, μ μ 0 S

18 Punto de inleión de KT Teorema: ( Una solución, μ donde μ 0 y S es un punto de inleión de KT si y solo si se cumplen las siguientes condiciones: (. X minimiza a L, μ para todas las S u g g ( = 0, =, K, J ( 0, =, K, J

19 Problema de PNL Condiciones de KT min s.a g ( ( 0 ( = 0 = (, K, h N =, K,J =, K,K ( h J K μ g ( λ h ( = 0 = = g ( 0 =,2,...,J ( = 0 =,2,...,K μ g ( = 0 =,2,...,J μ 0 =,2,...,J es una solución actible al PNL cuando 0, y ( ( = 0, es un mín. local del PNL cuando es actible y se cumple que para todas las soluciones actibles en una pequeña vecindad es un mín. local estricto cuando es actible y para todas las soluciones actibles se cumple que en una pequeña vecindad Un punto de KT del PNL es un vector (, μ, λ que satisace las condiciones de KT g h δ ( ( ( ( < ( δ(

20 λ, Teorema de Necesidad de Segundo Orden Consideramos el problema de PNL, y sean, g y h, unciones dos veces dierenciables, y sea actible para el problema. Sea I = g 0 el conunto de las restricciones activas en. También se asume que g ( I ( y h son linealmente independientes. Las condiciones necesarias para que sea un mínimo local al problema son: ( λ ( { ( } =. Eisten unos multiplicadores,μ tales que, λ, μ sea un pto. KT y 2. Para cualquier vector se satisace que: g h ( y = 0 I ( y = 0 =, K, K ( N y T H L (, λ, μ y 0 L J (, λ, μ = ( μ g ( λ h ( K = = H L es el Hessiano de la unción de Lagrange respecto a y evaluado en, μ (

21 Teorema de Suiciencia de Segundo Orden Las condiciones suicientes para que el punto sea un mínimo local estricto del problema PNL, donde, g y h son doblemente dierenciables son las sgtes. ( λ (. Eisten unos multiplicadores,μ tales que, λ, μ sean un pto. de KT 2. Para cualquier vector y que satisace: g g h ( N 0 ( y = 0 I = g ( { = 0, μ 0} { g = 0, μ 0} > ( y 0 I = ( 2 = ( y = 0 =, K, K y T H L (, λ, μ y > 0

22 Funciones de Penalización min s. a. g ( ( ( R 0 =,2, K, J h = 0 =,2, K, K ( l ( u i =,2, K, N i i i N El problema original se convierte en un problema sin restricciones mediante una unción de penalización P (,R = ( + Ω( R,g(,h( R es el conunto de los parámetros de penalización Ω es una unción de R y las unciones de restricción.

23 Funciones de Penalización 2 Características de la transormación: La solución del problema debe aproimarse a la solución del problema de NLP: t T< El problema de minimizar P(,R debe ser similar en diicultad a minimizar ( R (t+ = F(R (t debe ser simple. Dos tipos de transormaciones: Métodos barrera o orma interior: todos los puntos generados son actibles Métodos de orma eterior: los puntos generados son no actibles. (t lim =

24 Funciones de Penalización 3 Función parabólica Operador de bracet Ω = R{ h( } 2 ( 2 Ω = R g Métodos de orma eterior: puntos generados son no actibles α = α 0 si α 0 si α > 0

25 Eemplo con restricciones de igualdad En este caso R= (t =[3,3] T ( (t =2. h( (t =

26 Eemplo con restricciones de igualdad 2 En este caso R=0 (t =[2.574, 2.574] T ( (t =4.088; h( (t =0.428 En este caso R=00 (t =[2.5075,2.5075] T ( (t =4.477 h( (t =0.05

27 Eemplo con restricciones de desigualdad En este caso R= (t =[3,3] T ( (t =2 g( (t =- En este caso R=0 (t =[2.75,2.75] T ( (t =3.25 g( (t = -0.5

28 Eemplo con restricciones de desigualdad 2 En este caso R=00 (t =[2.5075,2.5075] T ( (t = g( (t = -0.05

29 Funciones de penalización 4 Barrera ininita: Logaritmica: Ω = 0 20 g ( con g (<0 J Ω = Rln[ g( ] J Ω Ω 0.0 g( 0 g( Métodos barrera o de orma interior: los puntos generados son siempre actibles

30 Funciones de penalización 5 Algoritmo:.- Deinir ε, ε 2, ε 3 => condiciones de terminación para la búsqueda lineal, vectorial y penalización. X 0 y R P(,R = ( + Ω(R, g(, h( 3.- Encontrar + / P( +, R sea mínimo con R io. Terminar con ε P( +, R P (, R - ε 3? Si => + = Parar No => continuar 5.- Elegir R + = R + ΔR y volver al paso 2.

31 Eemplo con unciones barrera R=00 (t =[-.8, -.8] ( (t =67 g( (t =8.62 R=0 (t =[.5,.5] ( (t =2.5 g( (t =2.0 R= (t =[2.3, 2.3] ( (t =5.45 g( (t =0.30

32 Método del Gradiente Reducido Generalizado min s.a. h (, 2, K, N (,, K, = 0 =, K, K 2 N Si h ( son no lineales pero puedes resolverse eplícitamente, puede usarse el método de eliminación de variables: h ( = 0 => = Φ(,..., -, +,..., N Esto no ocurre en la mayoría de los casos, pero se puede hacer una aproimación lineal de la restricción en torno a un punto que sí cumpla la restricción: / h ( = 0 H (; = h ( + h ( ( =,..., K Utilizamos está aproimación para encontrar otro punto actible:

33 Método GRG 2 / h (; = 0 =,...,K h ( ( =0 =,..., K Esto es un sistema de ecuaciones con N incógnitas y normalmente <N => no eiste solución única. Se puede resolver el sistema para K variables en unción de las otras N-K. K variables => básicas N-K variables => no básicas ˆ = h h h J ˆ... ˆ ˆ 2 = h h h C ( ˆ ( ˆ = + C J ( ˆ ˆ C J =

34 Método GRG 3 Utilizamos la última ecuación para eliminar variables de la unción obetivo: La unción obetivo ahora es una unción sin restricciones de las N-K variables no básicas, y podemos aplicar las condiciones necesarias para que sea mínimo:, ( ( ˆ ( ˆ, ~ C J = 0 ~ =, ( ˆ( ~ ( ~ = + = ˆ ˆ ~ ~ ( ~ ] [ ˆ( ( ( ~ C J + = Gradiente reducido generalizado Mínimo: 0 ( ~ =

35 Método GRG 4 Hemos usado linealizaciones de las restricciones para epresar la unción obetivo como una unción de N-K variables no básicas sin restricciones => algoritmo de optimización vectorial en torno al punto de linealización. Algoritmo:.- Calcular ~ ( = ( ˆ( J C ~ ( < ε 2.- Si Parar ~ T d = Si no d = ( dˆ, d dˆ = J Cd ( T 3.- Minimizar ( + α d con respecto al parámetro α => Hacer + = + α d. Ir al paso.

36 Método GRG 5 La dirección d así generada es descendente, pero los puntos generados en esa dirección no tienen por qué ser actibles. Para resolver este problema, se calcula y se proyecta sobre la supericie deinida por el conunto de restricciones y se minimiza ( a lo largo de la curva resultante. ˆ h ( + α d, ˆ = 0 Encontrar un que cumpla: =,...,K t d Método de Newton d ˆ i + i = ˆ [J ( t + α d, ˆ i ] h( t + α d, ˆ i ˆ ( ˆ < ( Si el método converge a un, si nos quedamos con el nuevo punto y seguimos el algoritmo, si no se cumple, se disminuye α y se repiten las iteraciones de Newton t

37 Algoritmo GRG Partir de un punto inicial 0, α = α 0, ε, ε 2, ε 3 >0 criterios de terminación y un parámetro de reducción; 0 < γ <.- Elegir una partición ~ de, en y de orma que J sea no singular. Calcular: ( t 2.- Si ~ t ( < ε parar Si no ~ T d = d = ( dˆ, d dˆ = J Cd 3.- α = α 0 ; a Calcular v i = t + α d Si h (v i ε 2 =,...K ir a d Si no. Continuar ˆ ( T

38 Algoritmo GRG 2 b vˆ i + = vˆ i J ( v i h( v i v i + = v i c Si i vˆ + vˆ i > ε ir a b Si no: Si h (v i ε 3 =,..., K ir a (d Si no α = γα Newton no converge. e ir a (a => el algoritmo de d Si ( t (v i, la dirección no es descendente, hacer α = γα e ir a (a Si no: t+ = v i e ir al paso.

39 Tratamiento de los límites min s. a. g ( ( ( R 0 =,2, K, J h = 0 =,2, K, K ( l ( u i =,2, K, N i i i N.- Tratamiento eplícito como desigualdades. 2.- Implícito: teniendo en cuenta los límites en los pasos del algoritmo: 2..- Sólo las variables aleadas de sus límites puedes ser variables básicas, se ordenan las variables de acuerdo con la distancia al límite más cercano: z i (t = min {( iu it, ( it il } Se ordenan las z i en orden decreciente y las primeras variables son las básicas.

40 Tratamiento de los límites Modiica d para asegurar que los límites no son superados: u 0 i = ~ Si i y ( i < 0 L di = 0 ( ~ i = ~ Si i y ( i > 0 i en otros casos En el paso 3 se deben insertar chequeos para asegurar que los límites no se eceden durante las iteraciones de Newton. Si un límite es ecedido, se hace una interpolación lineal entre t y v i para estimar el punto en esa línea que no eceda el límite.

41 Tratamiento de las desigualdades Se introducen variables de holgura que convierten la desigualdad en una igualdad: a g ( b h + ( = a -g ( + N+ = 0 h + ( = g ( b + N+ = 0 Se incrementa la dimensionalidad del problema.