Capítulo 1 LA COMPLEJIDAD DE LOS ALGORITMOS

Transcripción

1 Capítulo LA COMPLEJIDAD DE LOS ALGORITMOS. INTRODUCCIÓN E u setido amplio, dado u problema y u dispositivo dode resolverlo, es ecesario proporcioar u método preciso que lo resuelva, adecuado al dispositivo. A tal método lo deomiamos algoritmo. E el presete texto os vamos a cetrar e dos aspectos muy importates de los algoritmos, como so su diseño y el estudio de su eficiecia. El primero se refiere a la búsqueda de métodos o procedimietos, secuecias fiitas de istruccioes adecuadas al dispositivo que dispoemos, que permita resolver el problema. Por otra parte, el segudo os permite medir de algua forma el coste (e tiempo y recursos) que cosume u algoritmo para ecotrar la solució y os ofrece la posibilidad de comparar distitos algoritmos que resuelve u mismo problema. Este capítulo está dedicado al segudo de estos aspectos: la eficiecia. E cuato a las técicas de diseño, que correspode a los patroes fudametales sobre los que se costruye los algoritmos que resuelve u gra úmero de problemas, se estudiará e los siguietes capítulos.. EFICIENCIA Y COMPLEJIDAD Ua vez dispogamos de u algoritmo que fucioa correctamete, es ecesario defiir criterios para medir su redimieto o comportamieto. Estos criterios se cetra pricipalmete e su simplicidad y e el uso eficiete de los recursos. A meudo se piesa que u algoritmo secillo o es muy eficiete. Si embargo, la secillez es ua característica muy iteresate a la hora de diseñar u algoritmo, pues facilita su verificació, el estudio de su eficiecia y su mateimieto. De ahí que muchas veces prime la simplicidad y legibilidad del código frete a alterativas más crípticas y eficietes del algoritmo. Este hecho se podrá de maifiesto e varios de los ejemplos mostrados a lo largo de este libro, e dode profudizaremos más e este compromiso. Respecto al uso eficiete de los recursos, éste suele medirse e fució de dos parámetros: el espacio, es decir, memoria que utiliza, y el tiempo, lo que tarda e ejecutarse. Ambos represeta los costes que supoe ecotrar la solució al problema plateado mediate u algoritmo. Dichos parámetros va a servir además para comparar algoritmos etre sí, permitiedo determiar el más adecuado de

2 TÉCNICAS DE DISEÑO DE ALGORITMOS etre varios que solucioa u mismo problema. E este capítulo os cetraremos solamete e la eficiecia temporal. El tiempo de ejecució de u algoritmo va a depeder de diversos factores como so: los datos de etrada que le sumiistremos, la calidad del código geerado por el compilador para crear el programa objeto, la aturaleza y rapidez de las istruccioes máquia del procesador cocreto que ejecute el programa, y la complejidad itríseca del algoritmo. Hay dos estudios posibles sobre el tiempo:. Uo que proporcioa ua medida teórica (a priori), que cosiste e obteer ua fució que acote (por arriba o por abajo) el tiempo de ejecució del algoritmo para uos valores de etrada dados.. Y otro que ofrece ua medida real (a posteriori), cosistete e medir el tiempo de ejecució del algoritmo para uos valores de etrada dados y e u ordeador cocreto. Ambas medidas so importates puesto que, si bie la primera os ofrece estimacioes del comportamieto de los algoritmos de forma idepediete del ordeador e dode será implemetados y si ecesidad de ejecutarlos, la seguda represeta las medidas reales del comportamieto del algoritmo. Estas medidas so fucioes temporales de los datos de etrada. Etedemos por tamaño de la etrada el úmero de compoetes sobre los que se va a ejecutar el algoritmo. Por ejemplo, la dimesió del vector a ordear o el tamaño de las matrices a multiplicar. La uidad de tiempo a la que debe hacer referecia estas medidas de eficiecia o puede ser expresada e segudos o e otra uidad de tiempo cocreta, pues o existe u ordeador estádar al que pueda hacer referecia todas las medidas. Deotaremos por T() el tiempo de ejecució de u algoritmo para ua etrada de tamaño. Teóricamete T() debe idicar el úmero de istruccioes ejecutadas por u ordeador idealizado. Debemos buscar por tato medidas simples y abstractas, idepedietes del ordeador a utilizar. Para ello es ecesario acotar de algua forma la diferecia que se puede producir etre distitas implemetacioes de u mismo algoritmo, ya sea del mismo código ejecutado por dos máquias de distita velocidad, como de dos códigos que implemete el mismo método. Esta diferecia es la que acota el siguiete pricipio: Pricipio de Ivariaza Dado u algoritmo y dos implemetacioes suyas I e I, que tarda T () y T () segudos respectivamete, el Pricipio de Ivariaza afirma que existe ua costate real c > 0 y u úmero atural 0 tales que para todo 0 se verifica que T () ct (). Es decir, el tiempo de ejecució de dos implemetacioes distitas de u algoritmo dado o va a diferir más que e ua costate multiplicativa.

3 LA COMPLEJIDAD DE LOS ALGORITMOS 3 Co esto podemos defiir si problemas que u algoritmo tarda u tiempo del orde de T() si existe ua costate real c > 0 y ua implemetació I del algoritmo que tarda meos que ct(), para todo tamaño de la etrada. Dos factores a teer muy e cueta so la costate multiplicativa y el 0 para los que se verifica las codicioes, pues si bie a priori u algoritmo de orde cuadrático es mejor que uo de orde cúbico, e el caso de teer dos algoritmos cuyos tiempos de ejecució so 0 6 y 5 3 el primero sólo será mejor que el segudo para tamaños de la etrada superiores a Tambié es importate hacer otar que el comportamieto de u algoritmo puede cambiar otablemete para diferetes etradas (por ejemplo, lo ordeados que se ecuetre ya los datos a ordear). De hecho, para muchos programas el tiempo de ejecució es e realidad ua fució de la etrada específica, y o sólo del tamaño de ésta. Así suele estudiarse tres casos para u mismo algoritmo: caso peor, caso mejor y caso medio. El caso mejor correspode a la traza (secuecia de setecias) del algoritmo que realiza meos istruccioes. Aálogamete, el caso peor correspode a la traza del algoritmo que realiza más istruccioes. Respecto al caso medio, correspode a la traza del algoritmo que realiza u úmero de istruccioes igual a la esperaza matemática de la variable aleatoria defiida por todas las posibles trazas del algoritmo para u tamaño de la etrada dado, co las probabilidades de que éstas ocurra para esa etrada. Es muy importate destacar que esos casos correspode a u tamaño de la etrada dado, puesto que es u error comú cofudir el caso mejor co el que meos istruccioes realiza e cualquier caso, y por lo tato cotabilizar las istruccioes que hace para. A la hora de medir el tiempo, siempre lo haremos e fució del úmero de operacioes elemetales que realiza dicho algoritmo, etediedo por operacioes elemetales (e adelate OE) aquellas que el ordeador realiza e tiempo acotado por ua costate. Así, cosideraremos OE las operacioes aritméticas básicas, asigacioes a variables de tipo predefiido por el compilador, los saltos (llamadas a fucioes y procedimietos, retoro desde ellos, etc.), las comparacioes lógicas y el acceso a estructuras idexadas básicas, como so los vectores y matrices. Cada ua de ellas cotabilizará como OE. Resumiedo, el tiempo de ejecució de u algoritmo va a ser ua fució que mide el úmero de operacioes elemetales que realiza el algoritmo para u tamaño de etrada dado. E geeral, es posible realizar el estudio de la complejidad de u algoritmo sólo e base a u cojuto reducido de setecias, aquellas que caracteriza que el algoritmo sea leto o rápido e el setido que os iteresa. Tambié es posible distiguir etre los tiempos de ejecució de las diferetes operacioes elemetales, lo cual es ecesario a veces por las características específicas del ordeador (por ejemplo, se podría cosiderar que las operacioes + y preseta complejidades diferetes debido a su implemetació). Si embargo, e este texto tedremos e cueta, a meos que se idique lo cotrario, todas las operacioes elemetales del leguaje, y supodremos que sus tiempos de ejecució so todos iguales. Para hacer u estudio del tiempo de ejecució de u algoritmo para los tres casos citados comezaremos co u ejemplo cocreto. Supogamos etoces que dispoemos de la defiició de los siguietes tipos y costates:

4 4 TÉCNICAS DE DISEÑO DE ALGORITMOS CONST...; (* um. maximo de elemetos de u vector *); TYPE vector ARRAY [..] OF INTEGER; y de u algoritmo cuya implemetació e Modula- es: PROCEDURE Buscar(VAR a:vector;c:integer):cardinal; VAR j:cardinal; BEGIN j:; (* *) WHILE (a[j]<c) AND (j<) DO (* *) j:j+ (* 3 *) END; (* 4 *) IF a[j]c THEN (* 5 *) RETURN j (* 6 *) ELSE RETURN 0 (* 7 *) END (* 8 *) END Buscar; Para determiar el tiempo de ejecució, calcularemos primero el úmero de operacioes elemetales (OE) que se realiza: E la líea () se ejecuta OE (ua asigació). E la líea () se efectúa la codició del bucle, co u total de 4 OE (dos comparacioes, u acceso al vector, y u AND). La líea (3) está compuesta por u icremeto y ua asigació ( OE). La líea (5) está formada por ua codició y u acceso al vector ( OE). La líea (6) cotiee u RETURN ( OE) si la codició se cumple. La líea (7) cotiee u RETURN ( OE), cuado la codició del IF aterior es falsa. Obsérvese cómo o se cotabiliza la copia del vector a la pila de ejecució del programa, pues se pasa por referecia y o por valor (está declarado como u argumeto VAR, auque o se modifique detro de la fució). E caso de pasarlo por valor, ecesitaríamos teer e cueta el coste que esto supoe (u icremeto de OE). Co esto: E el caso mejor para el algoritmo, se efectuará la líea () y de la líea () sólo la primera mitad de la codició, que supoe OE (supoemos que las expresioes se evalúa de izquierda a derecha, y co cortocircuito, es decir, ua expresió lógica deja de ser evaluada e el mometo que se cooce su valor, auque o haya sido evaluados todos sus térmios). Tras ellas la fució acaba ejecutado las líeas (5) a (7). E cosecuecia, T()++36. E el caso peor, se efectúa la líea (), el bucle se repite veces hasta que se cumple la seguda codició, después se efectúa la codició de la líea (5) y la fució acaba al ejecutarse la líea (7). Cada iteració del bucle está compuesta por las líeas () y (3), juto co ua ejecució adicioal de la líea () que es la que ocasioa la salida del bucle. Por tato

5 LA COMPLEJIDAD DE LOS ALGORITMOS 5 T() + (4 + ) i E el caso medio, el bucle se ejecutará u úmero de veces etre 0 y, y vamos a supoer que cada ua de ellas tiee la misma probabilidad de suceder. Como existe posibilidades (puede que el úmero buscado o esté) supoemos a priori que so equiprobables y por tato cada ua tedrá ua probabilidad asociada de /. Co esto, el úmero medio de veces que se efectuará el bucle es de i. i 0 Teemos pues que ( ) / T() + (4+) i Es importate observar que o es ecesario coocer el propósito del algoritmo para aalizar su tiempo de ejecució y determiar sus casos mejor, peor y medio, sio que basta co estudiar su código. Suele ser u error muy frecuete el determiar tales casos basádose sólo e la fucioalidad para la que el algoritmo fue cocebido, olvidado que es el código implemetado el que los determia. E este caso, u exame más detallado de la fució ( y o de su ombre!) os muestra que tras su ejecució, la fució devuelve la posició de u etero dado c detro de u vector ordeado de eteros, devolviedo 0 si el elemeto o está e el vector. Lo que acabamos de probar es que su caso mejor se da cuado el elemeto está e la primera posició del vector. El caso peor se produce cuado el elemeto o está e el vector, y el caso medio ocurre cuado cosideramos equiprobables cada ua de las posicioes e las que puede ecotrarse el elemeto detro del vector (icluyedo la posició especial 0, que idica que el elemeto a buscar o se ecuetra e el vector)... Reglas geerales para el cálculo del úmero de OE La siguiete lista preseta u cojuto de reglas geerales para el cálculo del úmero de OE, siempre cosiderado el peor caso. Estas reglas defie el úmero de OE de cada estructura básica del leguaje, por lo que el úmero de OE de u algoritmo puede hacerse por iducció sobre ellas. Vamos a cosiderar que el tiempo de ua OE es, por defiició, de orde. La costate c que mecioa el Pricipio de Ivariaza depederá de la implemetació particular, pero osotros supodremos que vale. El tiempo de ejecució de ua secuecia cosecutiva de istruccioes se calcula sumado los tiempos de ejecució de cada ua de las istruccioes.

6 6 TÉCNICAS DE DISEÑO DE ALGORITMOS El tiempo de ejecució de la setecia CASE C OF v:s v:s... v:s END; es T T(C) + max{t(s ),T(S ),...,T(S )}. Obsérvese que T(C) icluye el tiempo de comparació co v, v,..., v. El tiempo de ejecució de la setecia IF C THEN S ELSE S END; es T T(C) + max{t(s ),T(S )}. El tiempo de ejecució de u bucle de setecias WHILE C DO S END; es T T(C) + (º iteracioes)*(t(s) + T(C)). Obsérvese que tato T(C) como T(S) puede variar e cada iteració, y por tato habrá que teerlo e cueta para su cálculo. Para calcular el tiempo de ejecució del resto de setecias iterativas (FOR, REPEAT, LOOP) basta expresarlas como u bucle WHILE. A modo de ejemplo, el tiempo de ejecució del bucle: FOR i: TO DO S END; puede ser calculado a partir del bucle equivalete: i:; WHILE i< DO S; INC(i) END; El tiempo de ejecució de ua llamada a u procedimieto o fució F(P, P,..., P ) es (por la llamada), más el tiempo de evaluació de los parámetros P, P,..., P, más el tiempo que tarde e ejecutarse F, esto es, T + T(P ) + T(P ) T(P ) + T(F). No cotabilizamos la copia de los argumetos a la pila de ejecució, salvo que se trate de estructuras complejas (registros o vectores) que se pasa por valor. E este caso cotabilizaremos tatas OE como valores simples cotega la estructura. El paso de parámetros por referecia, por tratarse simplemete de puteros, o cotabiliza tampoco. El tiempo de ejecució de las llamadas a procedimietos recursivos va a dar lugar a ecuacioes e recurrecia, que veremos posteriormete. Tambié es ecesario teer e cueta, cuado el compilador las icorpore, las optimizacioes del código y la forma de evaluació de las expresioes, que puede ocasioar cortocircuitos o realizarse de forma perezosa (lazy). E el presete trabajo supodremos que o se realiza optimizacioes, que existe el cortocircuito y que o existe evaluació perezosa..3 COTAS DE COMPLEJIDAD. MEDIDAS ASINTÓTICAS Ua vez vista la forma de calcular el tiempo de ejecució T de u algoritmo, uestro propósito es itetar clasificar dichas fucioes de forma que podamos compararlas. Para ello, vamos a defiir clases de equivalecia, correspodietes a las fucioes que crece de la misma forma.

7 LA COMPLEJIDAD DE LOS ALGORITMOS 7 E las siguietes defiicioes N deotará el cojuto de los úmeros aturales y R el de los reales..3. Cota Superior. Notació O Dada ua fució f, queremos estudiar aquellas fucioes g que a lo sumo crece ta deprisa como f. Al cojuto de tales fucioes se le llama cota superior de f y lo deomiamos O(f). Coociedo la cota superior de u algoritmo podemos asegurar que, e igú caso, el tiempo empleado será de u orde superior al de la cota. Defiició. Sea f: N [0, ). Se defie el cojuto de fucioes de orde O (Omicro) de f como: O(f) {g: N [0, ) c R, c>0, 0 N g() cf() 0 }. Diremos que ua fució t: N [0, ) es de orde O de f si t O(f). Ituitivamete, t O(f) idica que t está acotada superiormete por algú múltiplo de f. Normalmete estaremos iteresados e la meor fució f tal que t perteezca a O(f). E el ejemplo del algoritmo Buscar aalizado ateriormete obteemos que su tiempo de ejecució e el mejor caso es O(), mietras que sus tiempos de ejecució para los casos peor y medio so O(). Propiedades de O Veamos las propiedades de la cota superior. La demostració de todas ellas se obtiee aplicado la defiició... Para cualquier fució f se tiee que f O(f).. f O(g) O(f) O(g). 3. O(f) O(g) f O(g) y g O(f). 4. Si f O(g) y g O(h) f O(h). 5. Si f O(g) y f O(h) f O(mi(g,h)). 6. Regla de la suma: Si f O(g) y f O(h) f + f O(max(g,h)). 7. Regla del producto: Si f O(g) y f O(h) f f O(g h). f ( ) 8. Si existe lim k, depediedo de los valores que tome k obteemos: g( ) a) Si k 0 y k < etoces O(f) O(g). b) Si k 0 etoces f O(g), es decir, O(f) O(g), pero si embargo se verifica que g O(f).

8 8 TÉCNICAS DE DISEÑO DE ALGORITMOS Obsérvese la importacia que tiee el que exista tal límite, pues si o existiese (o fuera ifiito) o podría realizarse tal afirmació, como veremos e la resolució de los problemas de este capítulo. De las propiedades ateriores se deduce que la relació ~ O, defiida por f ~ O g si y sólo si O(f) O(g), es ua relació de equivalecia. Siempre escogeremos el represetate más secillo para cada clase; así los órdees de complejidad costate será expresados por O(), los lieales por O(), etc..3. Cota Iferior. Notació Ω Dada ua fució f, queremos estudiar aquellas fucioes g que a lo sumo crece ta letamete como f. Al cojuto de tales fucioes se le llama cota iferior de f y lo deomiamos Ω(f). Coociedo la cota iferior de u algoritmo podemos asegurar que, e igú caso, el tiempo empleado será de u orde iferior al de la cota. Defiició. Sea f: N [0, ). Se defie el cojuto de fucioes de orde Ω (Omega) de f como: Ω(f) {g:n [0, ) c R, c>0, 0 N g() cf() 0 }. Diremos que ua fució t:n [0, ) es de orde Ω de f si t Ω(f). Ituitivamete, t Ω(f) idica que t está acotada iferiormete por algú múltiplo de f. Normalmete estaremos iteresados e la mayor fució f tal que t perteezca a Ω(f), a la que deomiaremos su cota iferior. Obteer bueas cotas iferiores es e geeral muy difícil, auque siempre existe ua cota iferior trivial para cualquier algoritmo: al meos hay que leer los datos y luego escribirlos, de forma que ésa sería ua primera cota iferior. Así, para ordear úmeros ua cota iferior sería, y para multiplicar dos matrices de orde sería ; si embargo, los mejores algoritmos coocidos so de órdees log y.8 respectivamete. Propiedades de Ω Veamos las propiedades de la cota iferior Ω. La demostració de todas ellas se obtiee de forma simple aplicado la defiició... Para cualquier fució f se tiee que f Ω(f).. f Ω(g) Ω(f) Ω(g). 3. Ω(f) Ω(g) f Ω(g) y g Ω(f). 4. Si f Ω(g) y g Ω(h) f Ω(h). 5. Si f Ω(g) y f Ω(h) f Ω(max(g,h)). 6. Regla de la suma: Si f Ω(g) y f Ω(h) f + f Ω(g + h).

9 LA COMPLEJIDAD DE LOS ALGORITMOS 9 7. Regla del producto: Si f Ω(g) y f Ω(h) f f Ω(g h). f ( ) 8. Si existe lim k, depediedo de los valores que tome k obteemos: g( ) a) Si k 0 y k < etoces Ω(f) Ω(g). b) Si k 0 etoces g Ω(f), es decir, Ω(g) Ω(f), pero si embargo se verifica que f Ω(g). De las propiedades ateriores se deduce que la relació ~ Ω, defiida por f ~ Ω g si y sólo si Ω(f) Ω(g), es ua relació de equivalecia. Al igual que hacíamos para el caso de la cota superior O, siempre escogeremos el represetate más secillo para cada clase. Así los órdees de complejidad Ω costate será expresados por Ω(), los lieales por Ω(), etc..3.3 Orde Exacto. Notació Θ Como última cota asitótica, defiiremos los cojutos de fucioes que crece asitóticamete de la misma forma. Defiició.3 Sea f: N [0, ). Se defie el cojuto de fucioes de orde Θ (Theta) de f como: Θ(f) O(f) Ω(f) o, lo que es igual: Θ(f) {g:n [0, ) c,d R, c,d>0, 0 N cf() g() df() 0 }. Diremos que ua fució t :N [0, ) es de orde Θ de f si t Θ(f). Ituitivamete, t Θ(f) idica que t está acotada tato superior como iferiormete por múltiplos de f, es decir, que t y f crece de la misma forma. Propiedades de Θ Veamos las propiedades de la cota exacta. La demostració de todas ellas se obtiee tambié de forma simple aplicado la defiició.3 y las propiedades de O y Ω.. Para cualquier fució f se tiee que f Θ(f).. f Θ(g) Θ(f) Θ(g). 3. Θ(f) Θ(g) f Θ(g) y g Θ(f). 4. Si f Θ(g) y g Θ(h) f Θ(h). 5. Regla de la suma: Si f Θ(g) y f Θ(h) f + f Θ(max(g,h)).

10 0 TÉCNICAS DE DISEÑO DE ALGORITMOS 6. Regla del producto: Si f Θ(g) y f Θ(h) f f Θ(g h). f ( ) 7. Si existe lim k, depediedo de los valores que tome k obteemos: g( ) a) Si k 0 y k < etoces Θ(f) Θ(g). b) Si k 0 los órdees exactos de f y g so distitos..3.4 Observacioes sobre las cotas asitóticas. La utilizació de las cotas asitóticas para comparar fucioes de tiempo de ejecució se basa e la hipótesis de que so suficietes para decidir el mejor algoritmo, prescidiedo de las costates de proporcioalidad. Si embargo, esta hipótesis puede o ser cierta cuado el tamaño de la etrada es pequeño.. Para u algoritmo dado se puede obteer tres fucioes que mide su tiempo de ejecució, que correspode a sus casos mejor, medio y peor, y que deomiaremos respectivamete T m (), T / () y T p (). Para cada ua de ellas podemos dar tres cotas asitóticas de crecimieto, por lo que se obtiee u total de ueve cotas para el algoritmo. 3. Para simplificar, dado u algoritmo diremos que su orde de complejidad es O(f) si su tiempo de ejecució para el peor caso es de orde O de f, es decir, T p () es de orde O(f). De forma aáloga diremos que su orde de complejidad para el mejor caso es Ω(g) si su tiempo de ejecució para el mejor caso es de orde Ω de g, es decir, T m () es de orde Ω(g). 4. Por último, diremos que u algoritmo es de orde exacto Θ(f) si su tiempo de ejecució e el caso medio T / () es de este orde..4 RESOLUCIÓN DE ECUACIONES EN RECURRENCIA E las seccioes ateriores hemos descrito cómo determiar el tiempo de ejecució de u algoritmo a partir del cómputo de sus operacioes elemetales (OE). E geeral, este cómputo se reduce a u mero ejercicio de cálculo. Si embargo, para los algoritmos recursivos os vamos a ecotrar co ua dificultad añadida, pues la fució que establece su tiempo de ejecució viee dada por ua ecuació e recurrecia, es decir, T() E(), e dode e la expresió E aparece la propia fució T. Resolver tal tipo de ecuacioes cosiste e ecotrar ua expresió o recursiva de T, y por lo geeral o es ua labor fácil. Lo que veremos e esta secció es cómo se puede resolver alguos tipos cocretos de ecuacioes e recurrecia, que so las que se da co más frecuecia al estudiar el tiempo de ejecució de los algoritmos desarrollados segú las técicas aquí presetadas..4. Recurrecias homogéeas So de la forma:

11 LA COMPLEJIDAD DE LOS ALGORITMOS a 0 T() + a T( ) + a T( ) a k T( k) 0 dode los coeficietes a i so úmeros reales, y k es u úmero atural etre y. Para resolverlas vamos a buscar solucioes que sea combiacioes de fucioes expoeciales de la forma: T() c p ()r +c p ()r c k p k ()r k c i p i ()r i, dode los valores c, c,...,c y r, r,...,r so úmeros reales, y p (),...,p k () so poliomios e co coeficietes reales. Si bie es cierto que estas ecuacioes podría teer solucioes más complejas que éstas, se cojetura que sería del mismo orde y por tato o os ocuparemos de ellas. Para resolverlas haremos el cambio x T(), co lo cual obteemos la ecuació característica asociada: a 0 x k + a x k + a x k a k 0. Llamemos r, r,...,r k a sus raíces, ya sea reales o complejas. Depediedo del orde de multiplicidad de tales raíces, puede darse los dos siguietes casos. Caso : Raíces distitas Si todas las raíces de la ecuació característica so distitas, esto es, r i r j si i j, etoces la solució de la ecuació e recurrecia viee dada por la expresió: T() c r + c r c k r k dode los coeficietes c i se determia a partir de las codicioes iiciales. Como ejemplo, veamos lo que ocurre para la ecuació e recurrecia defiida para la sucesió de Fiboacci: T() T( ) + T( ), co las codicioes iiciales T(0) 0, T(). Haciedo el cambio x T() obteemos su ecuació característica x x +, o lo que es igual, x x 0, cuyas raíces so: k i c i r i k i y por tato + 5 r, r T ) c ( + c 5.

12 TÉCNICAS DE DISEÑO DE ALGORITMOS Para calcular las costates c y c ecesitamos utilizar las codicioes iiciales de la ecuació origial, obteiedo: + 5 T (0) c + 5 T () c c 5 + c 0 c + c Sustituyedo etoces e la ecuació aterior, obteemos 0 c c. 5 T ( ) Ο( ϕ ). Caso : Raíces co multiplicidad mayor que Supogamos que algua de las raíces (p.e. r ) tiee multiplicidad m>. Etoces la ecuació característica puede ser escrita e la forma (x r ) m (x r )...(x r k m+ ) e cuyo caso la solució de la ecuació e recurrecia viee dada por la expresió: T ( ) m i c i r i + k ciri m+ i m+ dode los coeficietes c i se determia a partir de las codicioes iiciales. Veamos u ejemplo e el que la ecuació e recurrecia es: T() 5T( ) 8T( ) + 4T( 3), co las codicioes iiciales T(k) k para k 0,,. La ecuació característica que se obtiee es x 3 5x + 8x 4 0, o lo que es igual (x ) (x ) 0 y por tato, T() c + c + c 3. De las codicioes iiciales obteemos c, c / y c 3, por lo que T() + Θ( ). Este caso puede ser geeralizado de la siguiete forma. Si r,r,...,r k so las raíces de la ecuació característica de ua ecuació e recurrecia homogéea, cada ua de multiplicidad m i, esto es, si la ecuació característica puede expresarse como: (x r ) m (x r ) m...(x r k ) m k 0, etoces la solució a la ecuació e recurrecia viee dada por la expresió:

13 LA COMPLEJIDAD DE LOS ALGORITMOS 3 m T() c i i r + c i i r c ki i r k. i m i.4. Recurrecias o homogéeas Cosideremos ua ecuació de la forma: a 0 T() + a T( ) a k T( k) b p() dode los coeficietes a i y b so úmeros reales, y p() es u poliomio e de grado d. Ua primera idea para resolver la ecuació es maipularla para covertirla e homogéea, como muestra el siguiete ejemplo. Sea la ecuació T() T( ) 3 para, co las codicioes iiciales T(0) 0 y T(). E este caso b 3 y p(), poliomio e de grado 0. Podemos escribir la ecuació de dos formas distitas. E primer lugar, para + teemos que T(+) T() 3 +. Pero si multiplicamos por 3 la ecuació origial obteemos: 3T() 6T( ) 3 + Restado ambas ecuacioes, coseguimos T(+) 5T() + 6T( ) 0, que resulta ser ua ecuació homogéea cuya solució, aplicado lo visto ateriormete, es T() 3 Θ(3 ). Estos cambios so, e geeral, difíciles de ver. Afortuadamete, para este tipo de ecuacioes tambié existe ua fórmula geeral para resolverlas, buscado sus solucioes etre las fucioes que so combiacioes lieales de expoeciales, e dode se demuestra que la ecuació característica es de la forma: (a 0 x k + a x k + a x k a k )(x b) d + 0, lo que permite resolver el problema de forma similar a los casos ateriores. Como ejemplo, veamos cómo se resuelve la ecuació e recurrecia que platea el algoritmo de las torres de Haoi: T() T( ) +. Su ecuació característica es etoces (x )(x ) 0, y por tato T() c + c +c 3 Θ( ). Geeralizado este proceso, supogamos ahora ua ecuació de la forma: m k i

14 4 TÉCNICAS DE DISEÑO DE ALGORITMOS a 0 T() + a T( ) a k T( k) b p () +b p () b s p s () dode como e el caso aterior, los coeficietes a i y b i so úmeros reales y p j () so poliomios e de grado d j. E este caso tambié existe ua forma geeral de la solució, e dode se demuestra que la ecuació característica es: (a 0 x k + a x k + a x k a k )(x b ) d + (x b ) d +...(x b s ) d s + 0. Como ejemplo, supogamos la ecuació T() T( ) + +,, co la codició iicial T(0). E este caso teemos que b, p (), b y p (), por lo que su ecuació característica es (x ) (x ) 0, lo que da lugar a la expresió fial de T(): T() Θ( )..4.3 Cambio de Variable Esta técica se aplica cuado es potecia de u úmero real a, esto es, a k. Sea por ejemplo, para el caso a, la ecuació T() 4T(/) +, dode es ua potecia de ( > 3), T(), y T() 6. Si k podemos escribir la ecuació como: T( k ) 4T( k ) + k. Haciedo el cambio de variable t k T( k ) obteemos la ecuació t k 4t k + k que correspode a ua de las ecuacioes estudiadas ateriormete, cuya solució viee dada por la expresió t k c ( k ) + c k. Deshaciedo el cambio que realizamos al pricipio obteemos que T() c + c. Calculado etoces las costates a partir de las codicioes iiciales: T() Θ( )..4.4 Recurrecias No Lieales E este caso, la ecuació que relacioa T() co el resto de los térmios o es lieal. Para resolverla itetaremos covertirla e ua ecuació lieal como las que hemos estudiado hasta el mometo. Por ejemplo, sea la ecuació T() T (/) para potecia de, >, co la codició iicial T() /3. Llamado t k T( k ), la ecuació queda como

15 LA COMPLEJIDAD DE LOS ALGORITMOS 5 t k T( k ) k T ( k ) k t k, que o correspode a iguo de los tipos estudiados. Necesitamos hacer u cambio más para trasformar la ecuació. Tomado logaritmos a ambos lados y haciedo el cambio u k log t k obteemos u k u k k, ecuació e recurrecia o homogéea cuya ecuació característica asociada es (x )(x ) 0. Por tato, u k c k + c + c 3 k. Necesitamos ahora deshacer los cambios hechos. Primero u k log t k y después t k T( k ). E cosecuecia t k c k + c +c 3 k T() c +c +c 3 log. Para calcular las costates ecesitamos las codicioes iiciales. Como sólo dispoemos de ua y teemos tres icógitas, usamos la ecuació e recurrecia origial para obteer las restates: T() T () /9. T(4) 4T () 6/8. Co esto llegamos a que c log(4/3) log3, c, c 3 y por cosiguiete: T ( ). 43

16 6 TÉCNICAS DE DISEÑO DE ALGORITMOS.5 PROBLEMAS PROPUESTOS.. De las siguietes afirmacioes, idicar cuales so ciertas y cuales o: (i) O( 3 ) (ix) Ω( 3 ) (ii) 3 O( ) (x) 3 Ω( ) (iii) + O( ) (xi) + Ω( ) (iv) (+)! O(!) (xii) (+)! Ω(!) (v) f() O() f() O( ) (xiii) f() Ω() f() Ω( ) (vi) 3 O( ) (xiv) 3 Ω( ) (vii) log O( / ) (xv) log Ω( / ) (viii) / O(log) (xvi) / Ω(log).. Sea a ua costate real, 0<a<. Usar las relacioes y para ordear los órdees de complejidad de las siguietes fucioes: log, log, 8, +a, (+a), ( +8+log 3 ) 4, /log,..3. La siguiete ecuació recurrete represeta u caso típico de u algoritmo recursivo: k c si b T ( ) k at ( b) + c si > b dode a,c,k so úmeros reales,,b so úmeros aturales, y a>0, c>0, k 0. E geeral, la costate a represeta el úmero de llamadas recursivas que se realiza para u problema de tamaño e cada ejecució del algoritmo; b es el tamaño de los subproblemas geerados; y c k represeta el coste de las istruccioes del algoritmo que o so llamadas recursivas. k Θ( ) si a < k + Demostrar que T ( ) Θ( ) si a div b Θ( a ) si a >.4. La siguiete ecuació recurrete represeta u caso típico de Divide y Vecerás: k c si < b T ( ) k at ( / b) + c si b dode a,c,k so úmeros reales,,b so úmeros aturales, y a>0, c>0, k 0, b>. La expresió c k represeta e geeral el coste de descompoer el problema iicial e a subproblemas y el de compoer las solucioes para producir la solució del problema origial.

17 LA COMPLEJIDAD DE LOS ALGORITMOS 7 Demostrar que Θ( T ( ) Θ( Θ( k k ) log a si a < b log ) b ) k si a b si a > b k k.5. Supogamos que dispoemos de la siguiete defiició de tipo: CONST...; TYPE vector ARRAY [..] OF INTEGER; Cosideramos etoces los procedimietos y fucioes siguietes: PROCEDURE Algoritmo(VAR a:vector); VAR i,j:cardinal; temp:integer; BEGIN FOR i: TO - DO (* *) FOR j: TO i+ BY - DO (* *) IF a[j-]>a[j] THEN (* 3 *) temp:a[j-]; (* 4 *) a[j-]:a[j]; (* 5 *) a[j]:temp (* 6 *) END (* 7 *) END (* 8 *) END (* 9 *) END Algoritmo; PROCEDURE Algoritmo(VAR a:vector;c:integer):cardinal; VAR if,sup,i:cardinal; BEGIN if:; sup:; (* *) WHILE (sup>if) DO (* *) i:(if+sup) DIV ; (* 3 *) IF a[i]c THEN RETURN i (* 4 *) ELSIF c<a[i] THEN sup:i- (* 5 *) ELSE if:i+ (* 6 *) END (* 7 *) END; (* 8 *) RETURN 0; (* 9 *) END Algoritmo;

18 8 TÉCNICAS DE DISEÑO DE ALGORITMOS PROCEDURE Euclides(m,:CARDINAL):CARDINAL; VAR temp:cardinal; BEGIN WHILE m>0 DO (* *) temp:m; (* *) m: MOD m; (* 3 *) :temp (* 4 *) END; (* 5 *) RETURN (* 6 *) END Euclides; PROCEDURE Misterio(:CARDINAL); VAR i,j,k,s:integer; BEGIN s:0; (* *) FOR i: TO - DO (* *) FOR j:i+ TO DO (* 3 *) FOR k: TO j DO (* 4 *) s:s+ (* 5 *) END (* 6 *) END (* 7 *) END (* 8 *) END Misterio; a) Calcular sus tiempos de ejecució e el mejor, peor, y caso medio. b) Dar cotas asitóticas O, Ω y Θ para las fucioes ateriores..6. Demostrar las siguietes iclusioes estrictas: O() O(log) O() O(log) O( ) O( 3 ) O( k ) O( ) O(!)..7. a) Demostrar que f O(g) g Ω(f). b) Dar u ejemplo de fucioes f y g tales que f O(g) pero que f Ω(g). c) Demostrar que a,b> se tiee que log a Θ(log b )..8. Cosidérese las siguietes fucioes de : f () ; f () + 000;, si impar, si 00 f 3( ) ; f4( ) 3 3, si par, si > 00 Para cada posible valor de i,j idicar si f i O(f j ) y si f i Ω(f j ).

19 LA COMPLEJIDAD DE LOS ALGORITMOS 9.9. Resolver las siguietes ecuacioes y dar su orde de complejidad: a) T()3T( )+4T( ) si >; T(0)0; T(). b) T()T( ) (+5)3 si >0; T(0)0. c) T()4T(/)+ si >4, potecia de ; T(); T()8. d) T()T(/)+log si >, potecia de. e) T()3T(/)+5+3 si >, potecia de. f) T()T(/)+log si >, potecia de. g) T()T( / )+log co k ; T(). h) T()5T(/)+(log) si >, potecia de ; T(). i) T()T( )+T( ) T( 3) si >; T() si 0,,. j) T()(3/)T(/) (/)T(/4) (/) si >; T(); T()3/. k) T()T(/4)+ / si >4, potecia de 4. l) T()4T(/3)+ si >3, potecia de Supoiedo que T O(f) y que T O(f), idicar cuáles de las siguietes afirmacioes so ciertas: a) T + T O(f). b) T T O(f). c) T / T O(). d) T O(T )... Ecotrar dos fucioes f() y g() tales que f O(g) y g Ο(f)... Demostrar que para cualquier costate k se verifica que log k O()..3. Cosideremos los siguietes procedimietos y fucioes sobre árboles. Calcular sus tiempos de ejecució y sus órdees de complejidad. PROCEDURE Iorde(t:arbol); (* recorrido e iorde de t *) BEGIN IF NOT Esvacio(t) THEN (* *) Iorde(Izq(t)); (* *) Opera(Raiz(t)); (* 3 *) Iorde(Der(t)) (* 4 *) END; (* 5 *) END Iorde;

20 0 TÉCNICAS DE DISEÑO DE ALGORITMOS PROCEDURE Altura(t:arbol):CARDINAL; (* altura de t *) BEGIN IF Esvacio(t) THEN (* *) RETURN 0 (* *) ELSE (* 3 *) RETURN +Max(Altura(Izq(t)),Altura(Der(t))) (* 4 *) END (* 5 *) END Altura; PROCEDURE Mezcla(t,t:arbol):arbol; (* devuelve u arbol biario de busqueda co los elemetos de los dos arboles biarios de busqueda t y t. La fucio Is iserta u elemeto e u arbol biario de busqueda *) BEGIN IF Esvacio(t) THEN (* *) RETURN t (* *) ELSIF Esvacio(t) THEN (* 3 *) RETURN t (* 4 *) ELSE (* 5 *) RETURN Mezcla(Mezcla(Is(t,Raiz(t)),Izq(t)), Der(t)) (* 6 *) END (* 7 *) END Mezcla; Supodremos que las operacioes básicas del tipo abstracto de datos arbol (Raiz, Izq, Der, Esvacio) so O(), así como las operacioes Opera (que o es relevate lo que hace) y Max (que calcula el máximo de dos úmeros). Por otro lado, supodremos que la complejidad de la fució Is es O(log)..4. Ordear las siguietes fucioes de acuerdo a su velocidad de crecimieto:,, log, loglog, log, /log, log, (/3), (3/), 7,..5. Resolver la ecuació ( ) T T ( i) + c, siedo T (0) 0. i 0.6. Cosideremos las siguietes fucioes: CONST...; TYPE vector ARRAY[..] OF INTEGER;

21 LA COMPLEJIDAD DE LOS ALGORITMOS PROCEDURE BuscBi(VAR a:vector; prim,ult:cardinal;x:integer):boolean; VAR mitad:cardinal; BEGIN IF (prim>ult) THEN RETURN a[ult]x (* *) ELSE (* *) mitad:(prim+ult)div ; (* 3 *) IF xa[mitad] THEN RETURN TRUE (* 4 *) ELSIF (x<a[mitad]) THEN (* 5 *) RETURN BuscBi(a,prim,mitad-,x) (* 6 *) ELSE (* 7 *) RETURN BuscBi(a,mitad+,ult,x) (* 8 *) END (* 9 *) END (* 0 *) END BuscBi; PROCEDURE Sumadigitos(um:CARDINAL):CARDINAL; BEGIN IF um<0 THEN RETURN um (* *) ELSE RETURN (um MOD 0)+Sumadigitos(um DIV 0) (* *) END (* 3 *) END Sumadigitos; a) Calcular sus tiempos de ejecució y sus órdees de complejidad. b) Modificar los algoritmos elimiado la recursió. c) Calcular la complejidad de los algoritmos modificados y justificar para qué casos es más coveiete usar uo u otro..7. Cosideremos la siguiete fució: PROCEDURE Raro(VAR a:vector;prim,ult:cardinal):integer; VAR mitad,terc:cardinal; BEGIN IF (prim>ult) THEN RETURN a[ult] END; mitad:(prim+ult)div ; (* posicio cetral *) terc :(ult-prim)div 3; (* um. elemetos DIV 3 *) RETURN a[mitad]+raro(a,prim,prim+terc)+raro(a,ult-terc,ult) END Raro; a) Calcular el tiempo de ejecució de la llamada a la fució Raro(a,,), supoiedo que es potecia de 3. b) Dar ua cota de complejidad para dicho tiempo de ejecució.

22 TÉCNICAS DE DISEÑO DE ALGORITMOS.6 SOLUCIÓN A LOS PROBLEMAS PROPUESTOS Ates de comezar co la resolució de los problemas es ecesario hacer ua aclaració sobre la otació utilizada para las fucioes logarítmicas. A partir de ahora y a meos que se exprese explícitamete otra base, la fució log hará referecia a logaritmos e base dos. Solució al Problema. ( / ) (i) O( 3 ) es cierto pues lim ( / 3 ) 0. (ii) 3 O( ) es falso pues lim ( / 3 ) 0. (iii) + O( ) es cierto pues lim ( + / ). (iv) (+)! O(!) es falso pues lim (!/(+)!) 0. (v) f() O() f() O( ) es falso. Por ejemplo, sea f() 3; claramete f() O() pero si embargo lim ( / 3 ) 0, co lo cual 3 O( ). De forma más geeral, resulta ser falso para cualquier fució lieal de la forma f() α co α >, y cierto para f() β co β. (vi) 3 O( ) es falso pues lim ( /3 ) 0. (vii) log O( / ) es cierto pues (viii) / O(log) es falso pues lim (log/ / ) 0. lim (log/ / ) 0. (ix) Ω( 3 ) es falso pues lim ( / 3 ) 0. (x) 3 Ω( ) es cierto pues lim ( / 3 ) 0. (xi) + Ω( ) es cierto pues lim ( + / ). (xii) (+)! Ω(!) es cierto pues lim (!/(+)!) 0. (xiii) f() Ω() f() Ω( ) es falso. Por ejemplo, sea f() (/); claramete f() O() pero si embargo lim ( (/) / ) 0, co lo cual (/) Ω( ). De forma más geeral, resulta ser falso para cualquier fució f() α co α <, y cierto para f() β co β. (xiv) 3 Ω( ) es cierto pues lim ( /3 ) 0.

23 LA COMPLEJIDAD DE LOS ALGORITMOS 3 (xv) log Ω( / ) es falso pues lim (log/ / ) 0. (xvi) / Ω(log) es cierto pues lim (log/ / ) 0. Solució al Problema. Respecto al orde de complejidad O teemos que: ( ) O(log) O( +a ) O( /log) O( log) O( 8 ) O(( +8+log 3 ) 4 ) O((+a) ) O( ). Puesto que todas las fucioes so cotiuas, para comprobar que O(f) O(g), basta ver que lim (f()/g()) 0, y para comprobar que O(f) O(g), basta ver que lim (f()/g()) es fiito y distito de 0. Por otro lado, respecto al orde de complejidad Ω, obteemos que: Ω(log) Ω( +a ) Ω( /log) Ω( log) Ω( 8 ) Ω(( +8+log 3 ) 4 ) Ω((+a) ) Ω( ) Para comprobar que Ω(f) Ω(g), basta ver que comprobar que Ω(f) Ω(g), basta ver que lim lim (g()/f()) 0, y para (f()/g()) es fiito y distito de 0 puesto que al ser las fucioes cotiuas teemos garatizada la existecia de los límites. Y e lo relativo al orde de complejidad Θ, al defiirse como la itersecció de los órdees O y Ω, sólo teemos asegurado que: Θ( 8 ) Θ(( +8+log 3 ) 4 ), siedo los órdees Θ del resto de las fucioes cojutos o comparables. Solució al Problema.3 ( ) La ecuació dada puede ser tambié escrita como T() at( b) c k, ecuació e recurrecia o homogéea cuya ecuació característica es: (x b a)(x ) k+ 0. Para estudiar las raíces de esa ecuació, vamos a supoer primero que a. E este caso, la ecuació tiee ua raíz de multiplicidad k+ (el ), y b raíces

24 4 TÉCNICAS DE DISEÑO DE ALGORITMOS distitas r,r,...,r b (las b raíces b-ésimas de a ). Etoces la solució de la ecuació e recurrecia es de la forma: b i i i k i i i b b k k r d c r d r d r d c c c c T ) ( siedo c i y d i coeficietes reales. Si a<, las raíces b-ésimas de a (esto es, las r i ) so meores e módulo que, co lo cual el segudo sumatorio tiede a cero cuado tiede a, y e cosecuecia T() Θ( k ) pues ) ( + k k c T lim es fiito y distito de cero. Para ver que efectivamete c k+ es distito de cero idepedietemete de las codicioes iiciales, sustituimos esta expresió de T() e la ecuació origial, T() at( b) c k, y por tato:. ) ( k b i i i k i i i b i i i k i i i c r d b c a r d c Igualado ahora los coeficietes que acompaña a k obteemos que c k+ ac k+ c, o lo que es igual, ( a)c k+ c. Ahora bie, como sabemos que a < y c > 0, etoces c k+ o puede ser cero. Si a >, las fucioes del segudo sumatorio so expoeciales, mietras que las primeras se matiee detro de u orde poliomial, por lo que e este caso el orde de complejidad del algoritmo es expoecial. Ahora bie, como todas las raíces b-ésimas de a tiee el mismo módulo, todas crece de la misma forma y por tato todas so del mismo orde de complejidad, obteiedo que ) (... ) ( ) ( b r r r Θ Θ Θ. Como ) ( d r T lim es distito de cero y fiito, podemos cocluir que: ( ) ) ( ) ( ) ( div b b a a r T Θ Θ Θ. Hemos supuesto que d 0. Esto o tiee por qué ser ecesariamete cierto para todas las codicioes iiciales, auque si embargo sí es cierto que al meos uo de los coeficietes d i ha de ser distito de cero. Basta tomar ese sumado para demostrar lo aterior. Recordemos que dados dos úmeros reales a y b, la solució de la ecuació x b a 0 tiee b raíces distitas, que puede ser expresadas como a /b e πik/, para k0,,,...,.

25 LA COMPLEJIDAD DE LOS ALGORITMOS 5 Supogamos ahora que a. E este caso la multiplicidad de la raíz es k+, co lo cual T() c + c + c c k + k + + d r d b r b k+ b c i i + d ir i i i Pero las raíces r,r 3,...,r b so todas de módulo (obsérvese que r ), y por tato el segudo sumado de T() es de complejidad Θ(). Así, el crecimieto de T() coicide co el del primer sumado, que es u poliomio de grado k+ co lo cual T() Θ( k+ ). Solució al Problema.4 Haciedo el cambio b m, o lo que es igual, m log b, obteemos que ( ) T(b m ) at(b m ) + cb mk. Llamado t m T(b m ), la ecuació queda como t m at k c(b k ) m, ecuació e recurrecia o homogéea co ecuació característica (x a)(x b k ) 0. Para resolver esta ecuació, supogamos primero que a b k. Etoces, la ecuació característica es (x b k ) 0 y por tato t m c b km + c mb km. Necesitamos ahora deshacer los cambios hechos. Primero t m T(b m ) co lo que T(b m ) c b km + c mb km (c + c m)b km, y después b m, obteiedo fialmete que T() (c + c log b ) k Θ( k log). Supogamos ahora el caso cotrario, a b k. Etoces la ecuació característica tiee dos raíces distitas, y por tato t m c a m + c b km. Necesitamos deshacer los cambios hechos. Primero t m T(b m ), co lo que T(b m ) c a m + c b km, y después b m, obteiedo fialmete que T() c a log b + c k c log b a + c k. Obsérvese que se hace uso de que log b Θ(log), lo que se demuestra e el problema.7.

26 6 TÉCNICAS DE DISEÑO DE ALGORITMOS E cosecuecia, si log b a > k (si y sólo si a > b k ) etoces T() Θ( log b a ). Si o, es decir, a < b k, etoces T() Θ( k ). Solució al Problema.5 Procedimieto Algoritmo ( ) a) Para obteer el tiempo de ejecució, calcularemos primero el úmero de operacioes elemetales (OE) que se realiza: E la líea () se ejecuta 3 OE (ua asigació, ua resta y ua comparació) e cada ua de las iteracioes del bucle más otras 3 al fial, cuado se efectúa la salida del FOR. Igual ocurre co la líea (), tambié co 3 OE (ua asigació, ua suma y ua comparació) por iteració, más otras 3 al fial del bucle. E la líea (3) se efectúa ua codició, co u total de 4 OE (ua diferecia, dos accesos a u vector, y ua comparació). Las líeas (4) a (6) sólo se ejecuta si se cumple la codició de la líea (3), y realiza u total de 9 OE: 3, 4 y respectivamete. Co esto: E el caso mejor para el algoritmo la codició de la líea (3) será siempre falsa, y o se ejecutará uca las líeas (4), (5) y (6). Así, el bucle más itero realizará ( i) iteracioes, cada ua de ellas co 4 OE (líea 3), más las 3 OE de la líea (). Por tato, el bucle más itero realiza u total de (4 3) ( i) + 3 j i+ j i+ OE, siedo el 3 adicioal por la codició de salida del bucle. A su vez, el bucle extero repetirá esas 7( i)+3 OE e cada iteració, lo que hace que el úmero de OE que se realiza e el algoritmo sea: i T() ( 7( i) + 3) E el caso peor, la codició de la líea (3) será siempre verdadera, y las líeas (4), (5) y (6) se ejecutará e todas las iteracioes. Por tato, el bucle más itero realiza j i+ 7 ( ) + 3 6( i) + 3 OE. El bucle extero realiza aquí el mismo úmero de iteracioes que e el caso aterior, por lo que el úmero de OE e este caso es: 5.

27 LA COMPLEJIDAD DE LOS ALGORITMOS 7 i T() ( 6( i) + 3) E el caso medio, la codició de la líea (3) será verdadera co probabilidad /. Así, las líeas (4), (5) y (6) se ejecutará e la mitad de las iteracioes del bucle más itero, y por tato realiza 3 (4 9) ( ) + 3 i j i+ OE. El bucle extero realiza aquí el mismo úmero de iteracioes que e el caso aterior, por lo que el úmero de OE e este caso es: 3 T() 3 ( i) i 4 4 b) Como los tiempos de ejecució e los tres casos so poliomios de grado, la complejidad del algoritmo es cuadrática, idepedietemete de qué caso se trate. Obsérvese cómo hemos aalizado el tiempo de ejecució del algoritmo sólo e fució de su código y o respecto a lo que hace, puesto que e muchos casos esto os llevaría a coclusioes erróeas. Debe ser a posteriori cuado se aalice el objetivo para el que fue diseñado el algoritmo. E el caso que os ocupa, u exame más detallado del código del procedimieto os muestra que el algoritmo está diseñado para ordear de forma creciete el vector que se le pasa como parámetro, siguiedo el método de la Burbuja. Lo que acabamos de ver es que sus casos mejor, peor y medio se produce respectivamete cuado el vector está iicialmete ordeado de forma creciete, decreciete y aleatoria.. Fució Algoritmo ( ) a) Para calcular el tiempo de ejecució, calcularemos primero el úmero de operacioes elemetales (OE) que se realiza: E la líea () se ejecuta OE (dos asigacioes). E la líea () se efectúa la codició del bucle, que supoe OE (la comparació). Las líeas (3) a (6) compoe el cuerpo del bucle, y cotabiliza 3, +, + y OE respectivamete. Es importate hacer otar que el bucle tambié puede fializar si se verifica la codició de la líea (4). Por último, la líea (9) supoe OE. A ella se llega cuado la codició del bucle WHILE deja de ser cierta. Co esto:

28 8 TÉCNICAS DE DISEÑO DE ALGORITMOS E el caso mejor se efectuará solamete la líeas (), (), (3) y (4). E cosecuecia, T() E el caso peor se efectúa la líea (), y después se repite el bucle hasta que su codició sea falsa, acabado la fució al ejecutarse la líea (9). Cada iteració del bucle está compuesta por las líeas () a (8), juto co ua ejecució adicioal de la líea () que es la que ocasioa la salida del bucle. E cada iteració se reduce a la mitad los elemetos a cosiderar, por lo que el bucle se repite log veces. Por tato, log T() + ( 3 ) log + 4. i E el caso medio, ecesitamos calcular el úmero medio de veces que se repite el bucle, y para esto veamos cuátas veces puede repetirse, y qué probabilidad tiee cada ua de suceder. Por u lado, el bucle puede repetirse desde ua vez hasta log veces, puesto que e cada iteració se divide por dos el úmero de elemetos cosiderados. Si se repitiese ua sola vez, es que el elemeto ocuparía la posició /, lo que ocurre co ua probabilidad /(+). Si el bucle se repitiese dos veces es que el elemeto ocuparía algua de las posicioes /4 ó 3/4, lo cual ocurre co probabilidad /(+)+/(+)/(+). E geeral, si se repitiese i veces es que el elemeto ocuparía algua de las posicioes k/ i, co k impar y k< i. Es decir, el bucle se repite i veces co probabilidad i /(+). Por tato, el úmero medio de veces que se repite el ciclo vedrá dado por la expresió: log i i log + i. + + Co esto, la fució ejecuta la líea () y después el bucle se repite ese úmero medio de veces, saliedo por la istrucció RETURN e la líea (4). Por cosiguiete, log + log + T() + ( ) + ( ) c) E el caso mejor el tiempo de ejecució es ua costate. Para los casos peor y medio, la complejidad resultate es de orde Θ(log) puesto que T ( ) lim log es ua costate fiita y distita de cero e ambos casos (0 y 8 respectivamete).

29 LA COMPLEJIDAD DE LOS ALGORITMOS 9 Fució Euclides ( ) a) E este caso el aálisis del tiempo de ejecució y la complejidad de la fució sigue u proceso distito al estudiado e los casos ateriores. Lo primero es resaltar alguas características del algoritmo, siguiedo ua líea de razoamieto similar a la de [BRA97]: [] Para cualquier par de eteros o egativos m y tales que m, se verifica que MOD m < /. Veámoslo: a) Si m > / etoces /m < y por tato DIV m, lo que implica que MOD m m( DIV m) m < / /. b) Por otro lado, si m / etoces MOD m < m /. [] Podemos supoer si pérdida de geeralidad que m. Si o, la primera iteració del bucle itercambia co m ya que MOD m cuado < m. Además, la codició m se coserva siempre (es decir, es u ivariate del bucle) pues MOD m uca es mayor que m. [3] El cuerpo del bucle efectúa 4 OE, co lo cual el tiempo del algoritmo es del orde exacto del úmero de iteracioes que realiza el bucle. Por cosiguiete, para determiar la complejidad del algoritmo es suficiete acotar este úmero. [4] Ua propiedad curiosa de este algoritmo es que o se produce u avace otable co cada iteració del bucle, sio que esto ocurre cada dos iteracioes. Cosideremos lo que les ocurre a m y cuado el ciclo se repite dos veces, supoiedo que o acaba ates. Sea m 0 y 0 los valores origiales de los parámetros, que podemos supoer 0 m 0 por []. Después de la primera iteració, m vale 0 MOD m 0. Después de la seguda iteració, toma ese valor, y por tato ya es meor que 0 / (por []). E cosecuecia, vale meos de la mitad de lo que valía tras dos iteracioes del bucle. Como se sigue mateiedo que m, el mismo razoamieto se puede repetir para las siguietes dos iteracioes, y así sucesivamete. El hecho de que valga meos de la mitad cada dos iteracioes del bucle es el que os permite ituir que el bucle se va a repetir del orde de log veces. Vamos a demostrar esto formalmete. Para ello, vamos a tratar el bucle como si fuera u algoritmo recursivo. Sea T(l) el úmero máximo de veces que se repite el bucle para valores iiciales m y cuado m l. E este caso l represeta el tamaño de la etrada. Si el bucle o se repite (si m 0) o se hace ua sola vez (si m es ó ). Si > y m o bie m divide a, el bucle se repite ua sola vez. E otro caso ( > y m o divide a ) el bucle se ejecuta dos veces, y por lo visto e [4], vale a lo sumo la mitad de lo que valía iicialmete. E cosecuecia (l/), y además m se sigue mateiedo por debajo de. Esto os lleva a la ecuació e recurrecia T(l) + T(l/) si l >, T(l) si l, lo que implica que el algoritmo de Euclides es de complejidad logarítmica respecto al tamaño de la etrada (l).

30 30 TÉCNICAS DE DISEÑO DE ALGORITMOS Nos pregutaremos la razó de usar T(l) para acotar el úmero de iteracioes que realiza el algoritmo e vez de defiir T directamete como ua fució de, el mayor de los dos operados, lo cual sería mucho más ituitivo. El problema es que si defiimos T() como el úmero de iteracioes que realiza el algoritmo para los valores m, o podríamos cocluir que T() + T(/) del hecho de que valga la mitad de su valor tras cada dos iteracioes del bucle. Por ejemplo, para Euclides(8,3), obteemos que T(3) 5 e el peor caso, mietras que T(3/) T(6). Esto ocurre porque tras dos iteracioes del bucle o vale 6, sio 5 (y m 3), y co esto sí es cierto que T(3) + T(5) ya que T(5) 3. La raíz de este problema es que esta ueva defiició más ituitiva de T o lleva a ua fució moótoa o decreciete (T(5) > T(6)) y por tato la existecia de algú / tal que T() + T( ) o implica ecesariamete que T() + T(/). E vez de esto, solamete podríamos afirmar que T() +max{t( ) /}, que es ua ecuació e recurrecia bastate difícil de resolver. Esa es la razó de que escogiésemos uestra fució T de forma que fuera o decreciete y que expresara ua cota superior del úmero de iteracioes. Para acabar, es iteresate hacer otar ua característica curiosa de este algoritmo: se demuestra que su caso peor ocurre cuado m y so dos térmios cosecutivos de la sucesió de Fiboacci. b) T(l) Θ(logl) como se deduce de la ecuació e recurecia que defie el tiempo de ejecució del algoritmo. Procedimieto Misterio ( ) a) E este caso so tres bucles aidados los que se ejecuta, idepedietemete de los valores de la etrada, es decir, o existe peor, medio o mejor caso, sio u úico caso. Para calcular el tiempo de ejecució, veamos el úmero de operacioes elemetales (OE) que se realiza: E la líea () se ejecuta OE (ua asigació). E la líea () se ejecutará 3 OE (ua asigació, ua resta y ua comparació) e cada ua de las iteracioes del bucle más otras 3 al fial, cuado se efectúa la salida del FOR. Igual ocurre co la líea (3), tambié co 3 OE (ua asigació, ua suma y ua comparació) por iteració, más otras 3 al fial del bucle. Y tambié e la líea (4), esta vez co OE (asigació y comparació) más las adicioales de termiació del bucle. Por último, la líea (5) supoe OE (u icremeto y ua asigació). Co esto, el bucle itero se ejecutará j veces, el medio ( i) veces, y el bucle exterior ( ) veces, lo que colleva u tiempo de ejecució de: