José Francisco Tudón Maldonado Mario Roberto Urbina Núñez. Funciones de Mérito en Ecuaciones No Lineales. i=1 n. = r i (x) i=1

Transcripción

1 Funciones de mérito José Francisco Tudón Maldonado Mario Roberto Urbina Núñez 9 de abril de Introducción Las funciones de mérito surgen para determinar en un algoritmo que resuelve un problema de optimización si el siguiente iterando es mejor o peor que la iteración anterior en el sentido de acercarse más a la solución, en el caso de ecuaciones no lineales En optimización no lineal con restricciones se busca balancear entre violar las restricciones y acercarse más a la solución La función de mérito es una función de x donde se obtiene un escalar que determina cuál es la mejor iteración Funciones de Mérito en Ecuaciones No Lineales En ecuaciones no lineales las funciones de mérito más utilizadas son las siguientes: f(x) = 1 r(x) = 1 n ri (x) i=1 n f(x) = r(x) 1 = r i (x) Funciones de Mérito en Optimización con Restricciones En optimización sin restricciones la función de mérito es la función objetivo Incluso en optimización con restricciones la función de mérito es la función objetivo si la solución inicial y todos los iterandos siguientes satisfacen las restricciones En el caso donde se violan las condiciones, una función de mérito popular es la siguiente: 1 i=1

2 φ 1 (x; µ) = f(x) + µ i E c i (x) + µ i I c i (x) Donde [z] = max {0, z} El escalar positivo µ es el parámetro de penalización que nos indica la importancia de satisfacer la restricción relativa a la minimización Otra elección es el Lagrangeano aumentado de Fletcher que es el siguiente: φ F (x; µ) = f(x) λ(x) T c(x) + 1 µ i I c i (x), conλ = [ A(x)A(x) T ] 1 A(x) f(x), µ > 0 y donde A(x) es el Jacobiano de c(x) Existen algoritmos basados en funciones de mérito que convergen rápidamente saltando pasos que progresan muy bien a la solución Esto se conoce como el efecto Maratos Efecto Máratos El efecto Maratos sucede si en algunos algoritmos basados en las funciones de mérito y ltros pueden fallar de converger rápidamente, porque rechazan pasos que hacen buenos progresos hacia la solución En el siguiente ejemplo los pasos p k, donde se obtendría convergencia cuadrática si se aceptara, este rechazo causa incremento de la función objetivo y en la violación de la restricción La Figura 1 es la gráca de la siguiente función: mín f(x 1, x ) = (x 1 + x 1) x 1 sa x 1 + x 1 = 0 La solución es x = (1, 0) T, el multiplicador de Lagrange es λ = 15 y el Hessiano es la identidad En la gráca se muestra que debido a la función de mérito, la gráca no converge al óptimo y viola las restricciones en el paso x k+1 = x k + p k Funciones de Mérito en Programación Cuadrática Sucesiva En SQP se utilizan para aceptar o rechazar el paso de prueba Para la evaluación de la función de mérito las restricciones de desigualdad c(x) 0 se convierten en la siguiente manera: _ c(x, s) = c(x) s = 0, con s 0 vector de holgura Entonces la función de mérito es la siguiente:

3 Figura 1: Efecto Máratos 3

4 φ 1 (x; µ) = f(x) + µ c(x) 1 En los métodos de búsqueda lineal, el paso α k p k se aceptará si la siguiente condición suciente de decrecimiento se cumple: φ 1 (x k + α k p k ; µ k ) φ 1 (x k ; µ k ) + ηα k D (φ 1 (x k ; µ); p k ), η (0, 1) D (φ 1 (x k ; µ k ); p k ) es la derivada direccional en dirección en p k y p k es dirección de descenso si D (φ 1 (x k ; µ); p k ) < 0 Esto se sostiene para µ sucientemente grande Se verá en el siguiente teorema El Teorema Teorema 1 (Teorema 18 de Nocedal-Wright) Sean p k y λ k+1 generadas por la k-ésima iteración SQP Entonces la derivada direccional de φ 1 en la dirección de p k satisface: Además, se cumple que D(φ 1 (x k ; µ); p k ) = f T k p k µ c k 1 D(φ 1 (x k ; µ); p k ) p T k xxl k p k (µ λ k+1 ) c k 1 Para que el lector recuerde: Denición (Derivada direccional) Sean x, u R n y f : R n R, entonces la derivada direccional de f en la dirección de u, con u = 1 es: Si f es diferenciable en x, Demostración del Teorema 18 f(x + hu) f(x) u f(x) = lim h 0 h u f(x) = f(x) T u Primero, le aplicamos el teorema de Taylor a f y a c i para encontrar una cota superior a φ 1 (x k + αp; µ) φ 1 (x k ; µ) Sabemos que, para t (0, 1): f(x k + αp) f k = α f T k p + α p T f(x k + tαp)p α f T k p + γ 1 α p, 4

5 para alguna constante γ 1 Similarmente, para cada i = 1,, m: c i (x k + αp) = c i,k + αa i,k p + α p T H i (x k + tαp)p c i,k + αa i,k p + γ i, α p, donde γ i, es otra constante Nótese que: c(x k + αp) 1 c k + αa k p + γ α p 1 c k + αa k p 1 + γ α p 1 Denimos ahora γ = γ 1 Por lo tanto, φ 1 (x k + αp; µ) φ 1 (x k ; µ) = f(x k + αp) f k + µ c(x k + αp) µ c k α T k p + µ c k + αa k p µ c k + γα p, donde γ = γ 1 + γ Si consideramos que p = p k, donde p k es tal que A k p k = c k, entonces, para α 1: φ 1 (x k + αp; µ) φ 1 (x k ; µ) α [ f T k p k µ c k ] + α γ p k Del mismo modo, también podemos construir una cota inferior, concluyendo que: α [ f T k p k µ c k ] α γ p k φ 1 (x k + αp; µ) φ 1 (x k ; µ) α [ f T k p k µ c k ] + α γ p k Dividiendo entre α y sacando el límite 0, se obtiene el resultado: lim α 0 φ 1 (x k + αp; µ) φ 1 (x k ; µ) α Como la p = p k, es la misma que en: [ ] [ xx L k A T k pk A k 0 podemos substituir: λ k+1 5 = f T k p k µ c k ] [ fk = c k ],

6 D(φ 1 (x k ; µ); p k ) = fk T p k µ c k = p T k xxl k p k + p T k A T k λ k+1 µ c k = p T k xxl k p k c T k λ k+1 µ c k p T k xxl k p k c k λ k+1 µ c k 3 Consecuencias del Teorema Como D (φ 1 (x k ; µ); p k ) p T k xxl x (µ λ k+1 ) c k 1, entonces p k es una dirección de descenso si µ > λ k+1 Una manera de obtener µ de φ 1 (x k ; µ k ) para cada iterando es la siguiente: D (φ 1 (x k ; µ); p k ) = f T k p k µ c k 1 ρµ c k 1, para alguna ρ (0, 1) La desigualdad se sostiene si Alternativamente µ f T k p k (1 ρ) c k 1 Una estrategia más efectiva para seleccionar a µ, que sirve para búsqueda lineal y región de conanza, considera el efecto del paso en un modelo de la función de mérito Se dene un modelo cuadrático de φ 1 como: donde q µ (p) f k + f T k p + σ pt xxl k p + µm(p), m(p) c k + A k p, y σ está por denirse Después de computar p k, se escoge el parámetro µ tan grande como para hacer que q µ (0) q µ (p k ) ρµ [m(0) m(p)], 6

7 para algún ρ (0, 1) Se sigue que µ f k T p k + σ pt k xxl k p k (1 ρ) c k Por lo tanto, si el valor de µ de iteración anterior satisface la desigualdad, no se cambia De otro modo, µ se incrementa a discreción para que la satisfaga La constante σ sirve para manejar los casos en donde xxl k no es positiva denida Si denimos { 1 si p T σ k xxl k p k > 0 0 eoc se verica que si µ satisface la desigualdad, σ asegura que p k sea una dirección de descenso para φ 1 Sin embargo, no siempre se cumple si σ = 1 y p T k xxl k p k < 0 Cuando σ > 0, la ésta estrategia escoge una mayor µ, poniendo más peso en la reducción de las restricciones Ésta propiedad es ventajosa si el paso decrece las restricciones pero incrementa el objetivo, ya que en éste caso, el paso tendría más probabilidad de ser aceptado por la función de mérito 7