Optimización con restricciones. Prof. Cesar de Prada ISA-UVA

Transcripción

1 Optmacón con restrccones Prof. Cesar de Prada ISA-UVA

2 Indce Restrccones Problemas con restrccones de gualdad Multplcadores de Lagrange Problemas generales NLP Condcones de Karus-Kun-Tucer KKT Programacón cuadrátca QP Método de Wolfe, SLP Funcones de penalacón

3 Restrccones En la mayor parte de los problemas de toma de decsones están presentes lgaduras entre las varables o lmtacones en las msmas Unas debdas a las ecuacones del modelo Otras al rango permsble de unas varables Otras debdas a reglas de operacón, estencas, etc. Por ello un problema de optmacón a menudo se formula como: 3 mn J g Problema de optmacón no-lneal con restrccones NLP

4 Restrccones La presenca de restrccones lmta el espaco de búsqueda pero, al msmo tempo, dfculta el encontrar la solucón óptma porque se perden algunos de los crteros de optmaldad como que el gradente es nulo en el óptmo Una polítca conducente a calcular el óptmo sn restrccones y luego lmtarlo al contorno de la regón factble lleva a solucones ncorrectas 4 Regón factble

5 5 Restrccones de gualdad mn J Hay una categoría de problemas en los cuales las varables de decsón están sujetas solo a un conjunto de ecuacones de gualdad: m n J n m n n n >,...,,...,...,,,...,,,...,, mn S es posble despejar m varables en funcón de las n-m restantes y sustturlas en J, es posble transformar el problema en uno de optmacón sn restrccones con n-m varables

6 Restrccones de gualdad mn, mn log log log El procedmento es smlar s partendo de los valores de,,, n-m se puede evaluar J,,, n por medo de una rutna de cálculo. En ese caso se puede aplcar un algortmo de optmacón sn restrccones sobre las varables,,, n-m 6 Sn embargo, en mucos casos, debdo a la no-lnealdad de las ecuacones, no es posble aslar y despejar m varables y el procedmento no puede emplearse, o su uso mplca el uso del método de Newton para resolver las ecuacones en una rutna de cálculo.

7 Multplcadores de Lagrange Para problemas de optmacón con restrccones de gualdad, el método de los multplcadores de Lagrange proporcona condcones necesaras que deben cumplrse en el óptmo. La dea es convertr el problema en otro sn restrccones amplado en m varables λ j los multplcadores de Lagrange tal que su solucón concda en las varables con el prmtvo y cumpla las restrccones mn J mn L, λ mn J λ',λ,λ Para todos los que cumplan las restrccones se verfca: mn L,λ mn J,λ 7 S es optmo para el problema orgnal, mnma J y cumple, luego tambén tene que ser una solucón del problema de la Lagrangana L

8 Multplcadores de Lagrange mn,λ L, λ mn J λ',λ L,λ Lagrangana La solucón del problema amplado sn restrccones es: L,λ,λ, L,λ λ,λ Que puede resolverse medante el método de Newton. S tene solucón, después ay que comprobar medante el Hessano de L que la solucón,λ corresponde verdaderamente a un mínmo de L respecto a 8

9 9 Cualfcacón de las restrccones Para que aya solucón óptma, debe cumplrse que los gradentes j sean lnealmente ndependentes, lo que se conoce como cualfcacón de las restrccones [ ] λ λ λ λ n m m m n n m n ' J J J J L M M M M L L L L

10 Cualfcacón de las restrccones λ λ λ λ λ λ J... J m m m m Para que aya solucón óptma, debe cumplrse que los gradentes j sean lnealmente ndependentes, lo que se conoce como cualfcacón de las restrccones

11 Ejemplo mn 4, c Cumple la cualfcacón de las restrccones pues solo ay una mn,, λ L L,λ,, λ λ mn,, λ L,λ λ λ 4 L,λ λ 4 λ λ 4 / 4λ / λ / λ / 4λ λ 4 ± / m / m /

12 Ejemplo ND PD L L L L 4 L L L 4 mn,, L mn,,,, λ λ λ λ λ λ λ λ λ,λ,λ λ, H,λ,λ,λ Este corresponde a λ sqrt/: - sqrt/, - sqrt/ Basta que el mínmo sea respecto a las varables

13 3 Interpretacón económca de los multplcadores de Lagrange b mn J [ ] b λ' λ,λ,λ mn, mn J L Cómo varía J s b camba en una undad? λ, J L ' ', L ' ' J J J J λ λ b λ λ b λ b I b b b b b Multplcando por λ y sumando: Los multplcadores de Lagrange óptmos precos sombra dan las sensbldades opuestas de J respecto a las restrccones b

14 Multplcadores de Lagrange / Precos sombra de LP 4 Programacón Lneal, LP: ma J A b c' Cómo vara J s b camba en una undad? La respuesta ma usando la teoría de la dualdad de LP es la solucón del dual, denomnada preco sombra J b Programacón no Lneal con restrccones de gualdad La respuesta mn usando los multplcadores de Lagrange es -λ, J b λ ' mn J b

15 Programacón no-lneal NLP 5 mn J g mn, 4 El caso general ncluye restrccones de gualdad y desgualdad en las varables de decsón. Suponendo que las funcones J, g y son contnuamente dferencables, es posble encontrar condcones necesaras y en certos casos sufcentes de óptmo del problema NLP denomnadas condcones de Karus-Kunt-Tucer KKT o solo KTC, Kunt-Tacer Condtons Conjunto factble

16 Condcones de optmaldad KKT 6 La dea fundamental en el desarrollo de las condcones KKT parte de la Lagrangana, consderando que, s una restrccón de desgualdad está actva en el óptmo, entonces puede tratarse como una de gualdad asgnándosele un multplcador de Lagrange, y s no está actva entonces puede gnorarse con lo que su multplcador debe acerse cero. De esta forma o g deben ser cero., λ, J λ j j g g mn J g L j Por otra parte s aumentamos el lado dereco de g la regón factble aumenta y, por tanto, J puede tener un valor menor, de forma que la sensbldad, medda por -, debe ser negatva, o sea.

17 7 Condcones de optmaldad KKT g mn J De esta forma, el óptmo del problema NLP debe cumplr las condcones de óptmo de la Lagrangana L,λ,, mas las condcones adconales. Para funcones contnuamente dferencables J, y g, las condcones necesaras de óptmo respecto a las varables son: g g λ g ' ' J g g g J j j j j λ Además, g y j para las restrccones actvas en el óptmo, deben ser támbén lnealmente ndependentes,

18 Cualfcacón de las restrccones La egenca de que g y j para las restrccones actvas en el óptmo sean lnealmente ndependentes, a fn de que el sstema de ecuacones tenga solucón se conoce como cualfcacón de las restrccones y puede no ser fácl de verfcar. En certos casos se cumple sempre: Cuando las restrccones son lneales [ g ] J Cuando las desgualdades son conveas y las gualdades lneales y ay un punto factble en el nteror de la regón marcada por las desgualdades. λ 8

19 En el óptmo 9 g g Optmo J Restrccones actvas Problema con restrccones de desgualdad J g Dado que, en el óptmo, para las restrccones actvas > el gradente de J, que es una combnacón lneal de los gradentes de g jactvas, debe estar en un semplano dstnto a estos últmos

20 Condcones KKT de sufcenca de prmer orden g mn J S la funcón J es convea, las restrccones g conveas y las restrccones de gualdad j son lneales, entonces la regón factble es convea y s este una solucón de las condcones KKT, entonces dca solucón es el óptmo global del problema NLP g g g J j j j j λ

21 Ejemplo 4 mn, Conjunto factble 4 4 λ λ λ j j j j g g g J Cumple las condcones de sufcenca de prmer orden? S, 4,, λ L λ

22 Ejemplo λ λ λ λ λ λ λ λ λ

23 3 λ λ λ λ λ λ λ λ λ λ λ λ λ λ λ λ λ λ λ λ λ 4, s 4, s, s, s 4 Deben eamnarse todas las alternatvas para encontrar posbles solucones

24 Detalle de la resolucón, 4 λ λ λ λ / 4 λ λ λ 4, λ 4 λ NF 4 4 λ λ λ λ λ 4 5 / 4 4 NF λ 4 λ λ 4 / 4, λ

25 5 Ejemplo λ λ λ λ λ λ 4 λ s, { λ, { /, s, λ, 3,, / 4, λ,, NF s, 5/ 4, λ NF s, { λ ;, 3,, Solucón óptma 5/ NF

26 6 Cualfcacón de las restrccones 4 mn, Restrccones actvas Optmo:,,λ,, 3 rango g Son lnealmente ndependentes, luego se cumple la cualfcacón de las restrccones, g actvas

27 Sensbldad mn J b g c A partr de la nterpretacón de las condcones KKT como multplcadores de Lagrange, se puede establecer la sguente relacón para las sensbldades: J J λ ' ' b c La cual nos permte deducr como camba la funcón de costo cuando las restrccones se relajen en una undad, lo cual es mportante en problemas de toma de decsones. 7

28 Ejemplo 8 mn J, mn Optmo:,,,,λ,, 3, J Restrccones Como vara el valor óptmo 4 actvas de la funcón de coste J s se aumenta el térmno dereco de las restrccones en una undad? Sensbldades: -,,-3 S aumentasen una undad cada una mantenendo las otras, la prmera mejoraría en una undad el costo J, no nfluría en la segunda y la tercera mejoraría J en tres undades

29 Condcones de segundo orden Las condcones de KKT son epresones de prmer orden que pueden dar lugar a mámos, mínmos o puntos de slla de la Lagrangana L,λ, en,λ,. Las condcones de segundo orden permten determnar s se trata de un mínmo respecto a las varables y proporconan condcones sufcentes para la optmaldad de la solucón. Venen dadas por la condcón sobre el Hessano: ' L, λ, > g act 9 De modo que el Hessano de L respecto a es PD para todos los vectores ortogonales a los gradentes de las restrccones actvas en. Estos vectores dan orgen al plano tangente a dcas restrccones. Para la necesdad basta con que el Hessano sea PSD. g act son restrccones actvas

30 3 Ejemplo 4 mn, Restrccones actvas Optmo:,,λ,, 3 λ λ Lagrangana Hessano respecto a [ ] ' > H L L L L H [ ] [ ] [ ] Cumple necesdad pero no la sufcenca Vectores de planos tangentes g λ >,, ' act L 4,, λ L λ λ j j j g J

31 3 Ejemplo mn, λ j j j j g g g J ,, L λ

32 3 Ejemplo NF NF /, 5 /, 6, s 3,, s

33 33 Ejemplo s, ,.87, ,.3 NF s, Optmo, por ser la / 5, / 5,, regón convea y NF J convea

34 Cualfcacón de las restrccones mn 3, Optmo: -,, /5, /5, J Restrccones 4 actvas, g actvas g g rango 4 Son lnealmente ndependentes, luego se cumple la cualfcacón de las restrccones 34

35 Sensbldad mn 3, Optmo: -,, /5, /5, J Restrccones Como vara el valor óptmo 4 actvas de la funcón de coste J s se aumenta el térmno dereco de las restrccones en una undad? Sensbldades: -/5,-/5 S aumentasen una undad cada una mantenendo la otra, J mejoraría en /5 en cada caso 35

36 36 Ejemplo 3 Hessano respecto a [ ] 5 / / ' > H L L L L H [ ] 5 / / 4 > 4 3 mn, Optmo: -,, /5, /5, J Restrccones actvas Cumple la sufcenca 3 [ ] [ ] 4 Lagrangana Vectores de planos tangentes g λ >,, ' act L Condcones de º orden 4 3,, L λ λ j j j g J

37 Ejemplo 4 VV - R Ω Encontrar el valor de R de modo que se mamce la potenca absorbda en dca resstenca 4R P I R mn R IR I R R 37

38 Solucón de problemas NLP La solucón analítca de un problema NLP utlando las condcones KKT solo es posble en casos sencllos Esten varas alternatvas práctcas para abordar la solucón numérca de un problema NLP. Eplotar la estructura partcular del msmo QP, Wolfe,.. Transformar el problema en otro equvalente sn restrccones Funcones de penalacón Sucesón de problemas apromados mas sencllos SLP, Cuttng Plane,.. Resolucón apromada secuencal de las condcones KKT SQP Métodos tpo gradente GRG Etc. 38

39 Programacón Cuadrátca QP 39 Al gual que esten mucos problemas práctcos de nterés tpo LP, otro tpo partcular de problemas de optmacón con restrccones que tenen muca aplcacón son los denomnados de Programacón Cuadrátca, o QP, en que la funcón de costo es cuadrátca en las varables de decsón y las restrccones son lneales. mn A J b c' Q n n smétrca ' Q A m n rango m < n Se pueden encontrar formulacones equvalentes que epresan el problema en térmnos de restrccones de desgualdad, como mamacón, etc. Para ello se utlan las msmas técncas de varables de olgura, cambos de sgno, etc. Que en la LP

40 Programacón cuadrátca A dferenca de la programacón lneal, en el caso de la programacón cuadrátca el óptmo puede encontrarse en el nteror o en el contorno de la regón factble 4

41 Programacón cuadrátca QP 4 mn A b J c' Técncas de solucón: Medante las condcones KKT Conjuntos actvos Métodos mas generales Wolfe Otros ' Q Al ser A de rango m, los gradentes A, g -I son ndependentes y se cumple la cualfcacón de las restrccones S la matr Q es postva sem-defnda, entonces J es convea, y como la regón factble, s este, tambén lo es, una solucón local del problema es un óptmo global y puede encontrarse resolvendo las condcones KKT S Q no es PSD, entonces pueden estr óptmos locales o no estr solucón y las condcones KKT solo son necesaras.

42 Resolucón medante KKT Dantng- Wolfe 4 mn A b J c' ' Q Lagrangana: L, λ, Se puede encontrar una solucón factble del conjunto de ecuacones lneales en,λ, como un problema LP en dcas varables con el algortmo smple tpo I, y mantener la condcón mponendo como regla de cambo de pvote que no esten smultáneamente en la base columnas con componentes del vector,λ, dstntas de cero en y en c' ' Q λ' A b ' Condcones KKT: c Q A' λ A b, ' Ecuacones lneales ecepto por, ó ó son cero.

43 43 Resolucón medante KKT b c δ σ A I A' A' Q b A δ σ A Q c ',σ,δ, δ, σ δ σ λ b A A λ Q c ' ', ' La condcón se mpone a traves de reglas sobre las columnas en las operacones de pvote [ ],,,... ma ν β, ν M I ν ν, Problema tpo Fase I del smple cuya solucón óptma, s ν, da la solucón de las condcones KKT

44 Conjuntos actvos Actve set Está ndcado para problemas formulados en térmnos de desgualdades lneales. El método ace uso del eco que, en un determnado paso del algortmo, las restrccones actvas cuyos índces forman el conjunto actvo Λ ay que consderarlas como gualdades, mentras que las no actvas pueden elmnarse de la formulacón momentáneamente En cada paso del algortmo el problema a resolver es del tpo: mn J c' ' Q P a ' β Λ Λ mn J c' ' Q A b En el que no esten restrccones tpo, y puede resolverse mas faclmente, p.e. por susttucón o multplcadores de Lagrange 44

45 Método de los conjuntos actvos. Escoger y calcular Λ. Resolver el problema, P Λ, asocado con gualdades en Λ. Sea θ la solucón y λ sus multplcadores de Lagrange 3. Calcular α θ - S θ no verfca una restrccón que no está en Λ α < añadr el índce a Λ 4. S los λ que corresponden a desgualdades son todos, entonces θ es óptmo. En caso contraro elmnar el índce p correspondente al menor de ellos de Λ 5. Hacer y volver a α mn, θ mn β a' a ' θ Λ a ' θ < 45

46 Ejemplo QP Dnámco w e PID u ds Ke τ s y w y K mn p K, T, T p d e t, T dt, T MISE d 46 error w - y funcón lneal de Kp, T, Td

47 Método de Wolfe mn J A b El algortmo de Wolfe está orentado a resolver problemas algo mas generales que los de tpo QP: Aquellos en los que la funcón de costo no tene por que ser cuadrátca, aunque se mantenen las restrccones lneales Se resuelve medante una sucesón de problemas LP apromados En concreto susttuye J por una apromacón de prmer orden, y usa el resultando de este problema para defnr un dreccón de búsqueda factble en la que se mejora J respetando las restrccones 47

48 48 Método de Wolfe mn b A J Partendo de un factble, se resuelve el problema lnealado en de tpo LP: mn b A J J Por ser un problema LP tene una solucón óptma en un vértce $ y por tanto : $ $ $ $ J J J J J J J J J Con lo cual la dreccón $ - es una en la que J dsmnuye

49 Método de Wolfe 49 El segundo paso del algortmo consste en mnmar J en la dreccón $ - en el segmento entre y $ el cual es factble. Esto es una optmacón escalar que se resuelve fáclmente. mn J σ σ σ $ $ De esta forma se determna un nuevo terandose asta que se cumpla una condcón del tpo: ε ε J ε J J ε 3 Regón factble $ $

50 Compresor con tres etapas 5 M q T P P T q moles/ T ºK γ 4/3 S un gas entra a bar y debe salr a 64 bares mantenendo q y T constantes, cuales deben ser las presones de trabajo de cada etapa ntermeda para gastar la mínma energía? T W γ T P P 3 c c La potenca consumda por un compresor adabátco reversble en el que la entrada está a la temperatura T es: qrt p v R γ P γ P sal ent γ γ constante gases

51 5 Compresor M La potenca total consumda será la suma de la que consume cada compresor , 3 4 P P P P P P P P P P P qrt W Total q P T P T P P 3 T T 64, 64 mn 4 4 4, P P P P P P P P P

52 Compresor / Método de Wolfe 5 mn, J J mn,,, 64 Punto factble ncal,, Lnealacón:.5.5 J, J J , , J,

53 Compresor / Método de Wolfe mn, ,64 Problema LP equvalente, puede resolverse gráfcamente. Costo: c < c Optmo LP: 64, ,64 53 Proporcona una dreccón de mnmacón de J,

54 Compresor / Método de Wolfe Paso : mnmacón en el segmento, a 64, ,64 mn J α64 α α, α64, Puede resolverse por nterpolacón, seccón dorada, etc. Solucón: α.7 54 Nuevo punto: J4.5 Se contnua terando asta que no aya mejora aprecable

55 Programacón lneal sucesva SLP Una etensón natural del método de Wolfe aplcable al problema general NLP es lnealar J y las restrccones en torno al punto con lo que resulta un problema LP apromado cuya solucón se supone estará mas próma al óptmo NLP. A contnuacón se toma y se vuelve a lnealar J y las restrccones terándose asta llegar a un punto en que no ay cambo aprecable en J y en 55 mn J mn J J m g g g Se añaden restrccones sobre las mámas desvacones del punto de lnealacón que aseguran que esta es aceptable M

56 Métodos de Penalacón La dea básca es transformar el problema NLP En otro sn restrccones tal que su solucón se aprome a la del NLP mn V, η mn J η P, g mn J g V es la funcón a mnmar que añade a J las funcones de penalacón P. η son parámetros que se va ajustando a lo largo del algortmo para acercar la mnmacón de V a la solucón del problema NLP 56

57 Funcones de Penalacón mn V, η mn J η P, g La prncpal característca de las funcones de penalacón P, es que tenden a cero cuando se satsface las restrccones, pero toma un valor muy grande cuando éstas son voladas. De manera tal que el algortmo no reala la búsqueda del mínmo de V en esta regón. Las penalacones P modfcan la funcón de coste orgnal J, ncrementando su valor en aquellas regones donde no se satsfacen las restrccones. Funcones de Penalacón para: g P P Funcones de Penalacón para: 57 g

58 Funcones de Barrera/Penalacón g P Penalacón eterna g Penalacón: S se volan las restrccones, entonces P toma valores muy grandes. El óptmo puede volar lgeramente las restrccones P Penalacón parabólca 58 g P Penalacón nteror o de barrera g Barrera: s el valor de g se aproma a la restrccón, entonces P toma un valor muy grande. Fuera a que se encuentre dentro de la regón factble

59 Funcones de Penalacón 59 Restrccones de Igualdad S se desvía del valor de cero, entonces la funcón P crece cuadrátcamente, penalando los valores de V en los puntos no factbles. El parámetro η proporcona la magntud de la penalacón. Se debe adconar un térmno η a la funcón objetvo J, por cada una de las restrccones de gualdad estentes. P Penalacón para bólca η P, funcón contnua con dervadas contnuas P Valor Absoluto η, dscontnuas en

60 Ejemplo de restrccón de gualdad mn, 3 Problema orgnal - Conjunto factble mn, 3 η Problema con la penalacón añadda - Curvas de nvel deformadas que fueran solucones en torno a la restrccón 6 Aunque el problema es dífcl numércamente al aumentar η Matlab

61 Ejemplo η funcón orgnal J η Funcón de Penalacón VJ ηp 6 η Funcón de Penalacón VJ ηp El mínmo de J se encuentra alrededor de

62 Funcones de Penalacón Restrccones de desgualdad g Penalacón Infnta g P f g g f g > Penalacón Eteror Prncpal nconvenente: dscontnua en g P g Penalacón cuadrátca asmétrca braets Pg [ ma,g ] Penalacón eteror P 6 Contnua y con dervadas contnuas Al gual que con otras funcones de penalacón: se pueden volar lgeramente las restrccones g

63 Funcones de Penalacón 63 Penalacón Eacta En problemas con restrccones de gualdad y desgualdad el mínmo de la funcón de coste: mn J ω σ ma, g Concde eactamente con el óptmo de un problema NLP s los pesos ω, σ j satsfacen: ω λ σ donde,λ, son la solucón de las condcones de KKT. Luenberger 984 j j P Prncpal nconvenente: dscontnudades en and g P g

64 Funcones de Barrera 64 Barrera Logarítmca P g ln g Los puntos que se encuentran dentro de la regón factble se favorecen, mentras que los que se encuentran cercanos a g se penalan. Se construye una barrera nfnta antes de las restrccones P es contnua, pero s por alguna raón, las restrccones se volan, es muy dfícl volver a la stuacón anteror P Funcón de barrera o nteror g Nótese que con funcones de barrera, el parámetro η tene que decrecer progresvamente para que permta un punto cercano a las restrccones

65 Número de Condcón del Hessano 65 - Cuando el parámetro η se modfca para forar a que los ptos. del algortmo estén prómos a modfcar la forma de los contornos de las restrccones, el problema de mal condconamento se ncrementa. Un número de condcón de 5 es moderadamente grande, 9 es grande y 4 muy grande por tanto métodos basados en la nversa del essano no funconará.

66 Algortmos con funcones de penalacón. Formular el problema NLP como uno sn restrccones con funcones de penalacón añaddas V,η J Ση P g,. Resolver el problema de mnmar V respecto a con un valor de η fjo 3. Modfcar cada η de acuerdo a una certa regla, aumentándolos s P es una penalacón eteror y dsmnuyéndolos s es una barrera nteror 4. Comprobar las condcones de fnalacón, s no se cumplen volver al paso 66

67 Ejemplo de restrccones de desgualdad mn, 3 4 Problema orgnal - 4 Regón factble Problema con penalacón añadda tpo cuadrátca asmétrca η mn, 3 P g ηp g s 4 s 4 4 > Matlab

68 Ejemplo 8 6 η funcón orgnal J η 5 funcón de penalacón VJ ηp El mínmo se encuentra dentro de la regón g

69 Restrccones duras y blandas Las restrccones se suelen clasfcar en duras ard y blandas soft. Las prmeras son aquellas que, como las leyes físcas, certos límtes, etc., deben cumplrse estrctamente. Las segundas son aquellas en las que se permte una certa desvacón sobre el límte, como en especfcacones, capacdades,.. El concepto de penalacón es útl cuando se consdera que esten restrccones blandas en las cuales se puede permtr una certa volacón de las msmas a costa de pagar un preco por ello. Los problemas con funcones de penalacón se denomnan a veces elástcos en contraposcón a las formulacones clascas nelástcas 69

70 Factbldad / varables de olgura Un procedmento alternatvo a las funcones de penalacón para usar restrccones blandas y garantar que este solucón factble con métodos tpo LP, QP, SLP, SQP, etc. es la ntroduccón de varables de olgura en el lado dereco de las restrccones, que deben mnmarse, acompañadas de su correspondente penalacón en el índce J. 7 mn J αε'ε, ε, δ ε g δ δ βδ'δ S este solucón factble del problema orgnal, obvamente el optmo dara ε, δ, y se tene la msma solucón. Pero s no este, ε y δ amplan la regón factble, justo lo mínmo para que esta dca solucón factble.