Tema 4 Funciones convexas y optimización convexa

Transcripción

1 Tema 4 Funciones convexas y optimización convexa José R. Berrendero Departamento de Matemáticas Universidad Autónoma de Madrid

2 Contenidos del tema 4 Repaso de algunos resultados sobre optimización de funciones. Funciones convexas. Caracterizaciones. Operaciones que preservan la convexidad. Resultados generales sobre optimización convexa.

3 Notación Para una función f : R n R, denotamos Derivada direccional: sea d R n con d 0, f f (x + λd) f (x) (x, d) = lim. λ 0 λ Derivadas parciales: f i (x) = f (x, e i ) con e i = (0,..., 1,..., 0). Gradiente: f (x) = (f 1 (x),..., f n (x)). Matriz Hessiana: Hf (x) = f 11 (x) f 1n (x) f n1 (x) f nn (x)

4 Propiedades básicas f tiene derivadas parciales continuas f es diferenciable f tiene derivadas parciales. f diferenciable f (x, d) = f (x) d. f es diferenciable en x si y solo si f (x) = f ( x) + f ( x) (x x) + x x R( x; x x), donde lim x x R( x; x x) = 0. f es diferenciable dos veces en x si y solo si f (x) = f ( x) + f ( x) (x x) (x x) Hf ( x)(x x) + x x 2 R( x; x x), donde lim x x R( x; x x) = 0. Si f es diferenciable en x y f ( x) d < 0 (resp. > 0), entonces existe δ > 0 tal que f ( x) > f ( x + λd) (resp. <) si 0 < λ < δ.

5 Condiciones para óptimos locales Condición necesaria de primer orden: Sea f diferenciable en x. Si x es un mínimo o máximo local de f entonces f ( x) = 0. Condiciones necesarias de segundo orden: Sea f dos veces diferenciable en x. Si x es un mínimo local de f entonces 1. f ( x) = 0 2. Hf ( x) es semidefinida positiva Condiciones suficientes de segundo orden: Sea f dos veces diferenciable en x. Si 1. f ( x) = 0 2. Hf ( x) es definida positiva entonces x es un mínimo local (estricto) de f.

6 Funciones convexas Una función f : D R es convexa si su dominio D R n es convexo, y para todo x, y D, para todo λ [0, 1], se verifica f (λx + (1 λ)y) λf (x) + (1 λ)f (y). La convexidad estricta requiere < en lugar de. Una función f es (estrictamente) cóncava si f es (estrictamente) convexa. f es convexa si y solo si para todo x y u, g(t) = f (x + tu) es convexa (en su dominio, es decir, {t : x + tu D}).

7 Algunos ejemplos f (x) = x 2 es convexa. f (x) = max{x 1,..., x n } donde x = (x 1,..., x n ) es convexa. Las funciones afines f (x) = Ax + b son cóncavas y convexas. Cualquier norma f (x) = x es una función convexa. Si S es convexo, la distancia a S, es una función convexa. f (x) = d(x, S) = inf x s s S

8 Desigualdad de Jensen Teorema: Si f : D R es convexa, entonces para todo x 1,..., x k de su dominio y λ 1,..., λ n 0 con λ λ k = 1 se cumple f (λ 1 x λ k x k ) λ 1 f (x 1 ) λ k f (x k ). Demostración: Por inducción sobre k, observando que si x = λ 1 x λ k+1 x k+1, entonces x = λy + (1 λ)x k+1, donde y = k i=1 (λ 1/λ)x i, con λ = 1 λ k+1. Si X es una v.a. que toma los valores x i con probabilidad λ i, entonces f [E(X )] E[f (X )].

9 Epigrafo El epigrafo de una función f : D R se define como: epi(f ) = {(x, t) : x D, f (x) t} R n+1. Teorema: Una función es convexa si y solo si su epigrafo es un conjunto convexo. Teorema: Sea {f i : i I } una familia de funciones convexas definidas sobre un conjunto convexo no vacío S tal que para todo x S, el conjunto {f i (x) : i I } está acotado superiormente. Entonces la función f (x) = sup{f i (x) : i I }, x S, es convexa. Demostración: epi(f ) = i I epi(f i ).

10 Funciones convexas diferenciables Teorema: Sea f : D R diferenciable sobre un dominio convexo y abierto D. Entonces, f es convexa si y solo si para todo x, x D. f (x) f ( x) + f ( x) (x x), Demostración: ( ) Si x, x D y f es convexa en D, f (λx + (1 λ) x) λf (x) + (1 λ)f ( x) [f ( x + λ(x x) ) f ( x)]/λ f (x) f ( x). Se toman ĺımites cuando λ 0. ( ) Si x y y λ [0, 1], se aplica la condición a x e y con x = λx + (1 λ)y: f (x) f ( x) + f ( x)(x x) y f (y) f ( x) + f ( x)(y x). Se multiplica la primera desigualdad por λ, la segunda por 1 λ y se suman.

11 Funciones convexas diferenciables dos veces Teorema: Sea f : D R con dos derivadas continuas sobre un dominio convexo y abierto D. Entonces, f es convexa si y solo si Hf (x) es semidefinida positiva para todo x D. Demostración: Para n = 1 se demuestra en los ejercicios. Para n > 1 se considera g(λ) = f (x + λd) y se tiene en cuenta que g (λ) = d Hf (x + λd)d. Una función dos veces diferenciable es cóncava si D es convexo y Hf (x) es semidefinida negativa para todo x D. Si Hf (x) es definida positiva para todo x D, la función es estrictamente convexa, pero el recíproco no es cierto (por ejemplo, f (x) = x 4 ).

12 Operaciones que preservan la convexidad El supremo de funciones convexas es una función convexa. Sumas ponderadas no negativas: Si f i convexa y w i 0, para i = 1,..., n, entonces f = w 1 f w n f n es convexa. Composición con una aplicación afín: g(x) = f (Ax + b) es convexa si f es convexa. Composición: Sea D R n y f : D R convexa. Sea I f (D) un intervalo tal que g : I R es creciente y convexa. Entonces la composición g f es convexa. Minimización parcial: Si f es convexa en (x, y) y C es un conjunto convexo no vacío, la función g(x) = inf y C f (x, y) es convexa en x.

13 Más ejemplos de funciones convexas f (x) = log x es convexa. f (x) = e ax es convexa en R para todo a R. f (x) = x a (x > 0) es convexa si a 0 o a 1, y cóncava si 0 a 1. f (x) = x Ax + a x + c, donde A es simétrica, es convexa si y solo si A es semidefinida positiva. Sea X una matriz n p y sean β R p e y R n, entonces f (β) = y X β es convexa, donde es cualquier norma.

14 Problema general de optimización convexa La optimización convexa trata el problema general de minimizar una función convexa, sobre un conjunto factible también convexo: minimizar f (x) s.a. x S, (1) donde f : D R es convexa y S D R n es convexo. Casos particulares: Optimización lineal. Optimización cuadrática. Mínimos cuadrados.

15 Teorema local-global En un problema convexo no hay distinción entre mínimos globales y locales. Teorema: Todo mínimo local de (1) es también un mínimo global de (1). Demostración: Sea x un mínimo local. Existe R > 0 tal que f ( x) f (x), para todo x S B( x, R). Spg. que existe y S tal que f (y) < f ( x). Consideramos z = (1 θ) x + θy, para θ > 0 suficientemente pequeño. z S B( x, R) pero f (z) < f ( x).

16 Mínimos globales bajo convexidad y diferenciabilidad Teorema: Consideremos el problema (1) en el que se supone además que f es diferenciable. Un punto x S es mínimo global de (1) si y solo si f ( x) (x x) 0, para todo x S. Demostración: ( ) Por la convexidad de f, para todo x S, ( ) f (x) f ( x) + f ( x) (x x) f ( x). 1. Spg. existe x S con f ( x) (x x) < 0. Entonces, x x es una dirección de descenso local. 2. Existe 0 < λ < 1 tal que f ( x) > f ( x + λ(x x) ) = f (λx + (1 λ) x). 3. λx + (1 λ) x S porque S es convexo. 4. Por lo tanto, x no es un mínimo global.

17 Observaciones 1. Si S es abierto (por ejemplo, S = R n ) entonces la condición del teorema anterior se reduce a f ( x) = 0. (Considera x = x λ f ( x), para λ > 0 suf. pequeño.) 2. Sin embargo, si S no es abierto la condición sirve para detectar óptimos en la frontera. (min x 2 s.a. 1 x 2.) 3. Si f ( x) 0, entonces f ( x) define un hiperplano soporte a S en x. 4. Aplicación a un problema de optimización lineal. 5. Aplicación a un problema convexo con restricciones de igualdad: min f (x) s.a. Ax = b, donde f es convexa y diferenciable.

18 Ejemplo Resuelve gráficamente el problema: minimizar (x 1 4) 2 + (x 2 6) 2 s.a. x 2 x1 2 x 2 4 Demuestra anaĺıticamente que la solución obtenida gráficamente es el mínimo global del problema.

19 Una versión más expĺıcita del problema convexo En la práctica consideramos problemas convexos para los que el conjunto factible se conoce más expĺıcitamente: minimizar f (x) s.a. f i (x) 0, i = 1,..., m ai x = b i, i = 1,..., p, donde las funciones f, f 1,..., f n son convexas. Equivalentemente, minimizar f (x) s.a. f i (x) 0, i = 1,..., m Ax = b, donde las filas de A son los vectores a i. Denotamos por D la intersección de los dominios de todas las funciones del problema.