Introducción a la optimización. Tomás Arredondo Vidal 7/4/09

Transcripción

1 Introducción a la optimización Tomás Arredondo Vidal 7/4/09

2 Esta charla trata de lo siguiente: Algunos aspectos de la optimización basada en derivados.

3 Optimización basada en derivados: La optimización basada en derivados incluye muchos métodos y algoritmos. Tres algoritmos fundamentales son los de pendiente máxima (steepest descent), el método de Newton (Newtons method) y el método Levenberg-Marquart Estos dos métodos son métodos de descenso en la cual la función a minimizar es E(Θ) Θ = [Θ 1, Θ 2,..., Θ n ] T y el objetivo es encontrar un punto minimo Θ = Θ* En general la función E puede ser no linear con respecto al parámetro ajustable Θ.

4 Optimización basada en derivados: Muchas veces E(Θ) es una función compleja (Ej. Powell's quartic function: E(Θ) = E(Θ 1,Θ 2,Θ 3, Θ 4 ) = (Θ Θ 2 ) 2 + 5(Θ 3 -Θ 4 ) 2 + (Θ 2-2Θ 3 ) (Θ 1 -Θ 4 ) 4 Hay que usar un algoritmo iterativo para encontrar y explorar el espacio de búsqueda eficientemente. En métodos iterativos de búsqueda (Ej. buscar el mínimo de una función ) el objetivo principal es encontrar el próximo punto Θ next basado en un vector d en la dirección de avance deseada.

5 Optimización basada en derivados: Θ next = Θ now + d (6.1) En el método iterativo se incluye una tasa de aprendizaje que determina la rapidez con la cual el algoritmo se acerca al mínimo. Usando k como indicador de las iteraciones: Θ k+1 = Θ k + η k d k (6.2) El próximo punto tiene que satisfacer (para minimizar): E(Θ k+1 ) = Θ k + η k d k < E(Θ k )

6 Introducción a la optimización

7 Optimización basada en derivados: La diferencia principal entre los diferentes algoritmos es el procedimiento para calcular las direcciones necesarias para la minimización (d k ) y la determinación del óptimo tamaño de cada paso a seguir (η k ).

8 Métodos para calcular d k basado en : El gradiente de una función diferenciable (E) en el puntoθ es el vector de primeros derivados parciales de E que apunta en dirección al máximo incremento de E y cuya magnitud es la máxima tasa de cambio. g(θ) = E(Θ) = [ E(Θ)/ E(Θ 1 ),..., E(Θ)/ E(Θ n )] g(θ now ) = E(Θ now ) contorno Θ now

9 Métodos para calcular d k basado en : Dado que Φ(η) = E(Θ + ηd) en el cual ζ es el ángulo entre los vectores g y d. Se puede encontrar el valor óptimo de η seleccionando el mínimo de los posibles valores de Φ(η) en una dirección especifica d: η = η* = arg min Φ(η) (6.4) Como se puede apreciar en Fig. 6.2 el mínimo en la dirección inicial d seria el valor η que llegara al punto C. Entonces η* = arg min Φ(η) = arg min E(Θ + ηd)

10 Introducción a la optimización

11 Optimización basada en derivados: Para ser direcciones de descenso el cambio de la función E con respecto a η tiene que ser negativa indicando que E se tiende a minimizar con el cambio de η: Entonces: de( θnow + ηd) φ'(0) = dη η = 0 < 0 Φ'(0) = g T d = g T d cos(ζ(θ now )) < 0 (6.7) g(θ now ) = E(Θ now ) Θ now ζ(θ now ) contorno Posibles direcciones de d Θ next

12 Optimización basada en derivados: Los métodos para el descenso basado en gradiente tienen la siguiente forma general: Θ next = Θ now ηgg (6.9) Claramente cuando d = -Gg la condición (6.7) se mantiene. Dependiendo del método a seguir la matriz G va a causar la deflexión (transformación) del gradiente g y del ángulo ζ.

13 Optimización basada en derivados: Para encontrar el mínimo se quiere encontrar un Θ next que cumpla con que el gradiente sea cero (e.g. un punto estacionario como un mínimo o máximo): g(θ next ) = ( E(Θ)/ Θ) Θ=Θnext = 0 (6.10) Θ now g now = Ε(Θ now ) d E(Θ) Ε(Θ) Θ now Θ next Θ next

14 El método de descenso mas rápido: En el caso que G = I (matriz de identidad) tenemos que: Θ next = Θ now + ηd = Θ now ηgg = Θ now ηg Esto indica que no hay deflexión entre d y el negativo del gradiente g. Visto desde la perspectiva global ir en la dirección de -g puede que no nos lleve a la mínima deseada. Solo si los contornos son esféricos este método nos lleva a la mínima global.

15 Θ next1 Θ next2 g next2

16 El método clásico de Newton: El método de Newton busca el punto mínimo basado en una aproximación cuadrática de la función objetiva E.

17 El método clásico de Newton: Basado en la expansión de Taylor de E(Θ) (6.13): E(Θ) ~ E(Θ now ) + g T (Θ -Θ now ) + 1/2(Θ -Θ now ) T H(Θ -Θ now ) En el cual H es la matriz Hessian consistente del los 2 ndo derivados de E(Θ). Se diferencia (6.13) y se asigna el valor 0 para obtener su mínimo: 0 = g T + H(Θ -Θ now ) (6.14) Si existe el inverso de H es que hay una solución mínima de E(Θ): Θ min = Θ now - H -1 g (6.15)

18 El método clásico de Newton: El paso - H -1 g se denomina el paso de Newton. Hay muchas modificaciones del método de Newton. Entre ellas están: Variar adaptativamente el largo del paso usando η Θ min = Θ now -ηh -1 g (6.17)

19 El método clásico de Newton: Si H no es positive definite se puede agregar una matriz P para hacer que H sea positive definite (o Hermitian) [2] Modificar H al sumarle una matriz P (método Levenberg- Marquart) de tipo positive definite, si P = λi Θ min = Θ now -η(h + λi) -1 g (6.19)

20 El método clásico de Newton: Hay muchos otros aspectos de este tema como condiciones de terminación, optimizaciones y métodos estocásticos (favor ver [1] para mas información).

21 Referencias: [1] Jang, J.-S.R. et al, Neuro-Fuzzy and Soft Computing, Prentice Hall, 1997 [2]