sup si A no es acotado.

Capítulo 5 Teoría de Baire 1. El teorema de Cantor En este capítulo estudiaremos más a fondo los espacios métricos completos. Lo primero que haremos es establecer la equivalencia entre completitud y la llamada propiedad de Cantor, la cual demostraremos en esta sección. Si A es un subconjunto no vacío del espacio métrico (X, d), definimos el diámetro de A como { sup diam A = x,y A d(x, y) si A es acotado si A no es acotado. Si A es acotado, entonces el conjunto {d(x, y) : x, y A} es acotado ya que, si para algún x 0 X, d(x, x 0 ) M para todo x A, entonces d(x, y) d(x, x 0 ) + d(x 0, y) 2M para todo x, y A. Entonces diam A existe por la completitud de los números reales. Más aún, el diámetro satisface las siguientes propiedades. Proposición 5.1. Sean A, B X no vacíos. Entonces 1. diam A = 0 si, y sólo si, A = {x} para algún x X; 2. Si A B, entonces diam A diam B. Demostración. 1. La primera parte se sigue porque d(x, y) = 0 si, y sólo si, x = y. 87

88 5. Teoría de Baire 2. Si A B, entonces {d(x, y) : x, y A} {d(x, y) : x, y B}, por lo que entonces diam A diam B}. Ahora demostraremos el teorema de Cantor, el cual ofrece una propiedad equivalente a completitud en términos del diámetro de sucesiones de conjuntos. Teorema 5.2 (Cantor). El espacio métrico (X, d) es completo si, y sólo si, para toda sucesión decreciente de subconjuntos A n, no vacíos y cerrados en X, tales que lím n diam A n = 0, tenemos que A n = {x 0 } para algún x 0 X. n=1 Una familia contable {A n } es una sucesión decreciente de conjuntos si A n+1 A n para cada n. Demostración. Supongamos que (X, d) es completo, y sea A n una sucesión de conjuntos no vacíos cerrados en X, decreciente y tal que lím diam A n = 0. n Tomemos una sucesión (x n ) en X tal que x n A n. Observamos que tal sucesión es de Cauchy. Para verificar esto, sean ε > 0 y N > 0 tal que diam A N < ε. Para todo n N, A n A N y por lo tanto diam A n < ε, lo cual implica que si m, n N, entonces d(x n, x m ) < ε. Entonces (x n ) es una sucesión de Cauchy y, por la completitud de X, converge. Digamos x n x 0. Ahora demostraremos que A n = {x 0 }, mostrando que x 0 A n para tod n. Para demostrar que x 0 A n para todo n, fijamos un n 0 y demostraremos que B ε (x 0 ) A n0 para todo ε > 0. Esto implica que x 0 A n0 y, como A n0 es cerrado, x 0 A n0. Sea ε > 0. Como x n x 0, existe N > 0 tal que d(x n, x 0 ) < ε para todo n N. Si tomamos n N y n n 0, entonces x n B ε (x 0 ) y x n A n A n0.

1. El teorema de Cantor 89 Entonces x n B ε (x 0 ) A n0. Por lo tanto x 0 A n0 y, como n 0 es arbitrario, x 0 A n para todo n. Ahora bien, ( diam n=1 A n ) = 0, ya que A n A k para todo A k y además diam A k 0. Por la proposición 5.1, A n = {x 0 }. Para mostrar la inversa, sea (x n ) una sucesión de Cauchy en X. Definimos los conjuntos T n = {x k : k n}, A n = T n. Claramente, cada A n es no vacío, cerrado, y A n+1 A n, n = 1, 2,.... Además, diam A n = sup d(x m, x k ), m,k n por el ejercicio 1. Como (x n ) es de Cauchy, dado ε > 0 existe N > 0 tal que para todo m, n N, y por lo tanto d(x m, x n ) < ε 2 diam A n diam A N ε 2 < ε para todo n N. Entonces diam A n 0. Por la hipótesis del teorema, An = {x 0 } para algún x 0 X, y no es difícil ver que x n x 0 (ejercicio 2). Ejemplo 5.3. Considere el espacio R. Entonces, dada una subsucesión de intervalos encajados [a n, b n ] [a n+1, b n+1 ], [a n, b n ]. n=1 De hecho, esta propiedad de intesección no vacía de intervalos encajados es equivalente a la completitud de R. No podemos utilizar directamente el teorema de Cantor, ya que la definición de diámetro depende de la completitud de R. Sin embargo, podemos reescribir la hipótesis del teorema de la siguiente manera: Sean A n, cerrados, A n A n+1, tales que para todo ε > 0 existe n 0 tal que para todos x, y A n0, d(x, y) < ε. Entonces An = {x 0 } para algún x 0 X.

90 5. Teoría de Baire Este enunciado evita el uso del diámetro de un conjunto, y la equivalencia con la completitud de R se muestra de la misma manera con la que fue demostrado el teorema de Cantor (ejercicio 3). 2. El teorema de Baire En esta sección mostraremos el teorema de Baire y daremos algunas aplicaciones. Aunque este teorema es una simple consecuencia del teorema de Cantor demostrado en la sección anterior, su uso ofrece un método muy poderoso para resolver diversos problemas de análisis. Recordemos que si S, A X, decimos que S es denso en A si, para todo ε > 0 y x A, B ε (x) S ; es decir, S A. Es claro que la unión de conjuntos densos es también un conjunto denso. Ésto no es necesariamente cierto acerca de la intersección de conjuntos densos, ya que incluso ésta puede ser vacía, como en el caso Q y R \ Q, los cuales son densos en R y disjuntos. Sin embargo, la intersección contable de conjuntos densos abiertos en un espacio métrico completo es de hecho un conjunto denso. Ésta es la conclusión del teorema de Baire, que establecemos a continuación. Teorema 5.4 (Baire). Sea (X, d) un espacio métrico completo y U n, n = 1, 2,..., conjuntos abiertos densos en X. Entonces U = es denso en X. n=1 Demostración. Sean x X y ε > 0. Mostraremos que la intersección B ε (x) U no es vacía. Como U 1 es denso, existe x 1 B ε (x) U 1. Tanto B ε (x) como U 1 son abiertos, por lo que B ε (x) U 1 es también abierto y podemos encontrar un δ 1 > 0 tal que B δ1 (x 1 ) B ε (x) U 1. Sea y U n { δ1 r 1 = mín 2, ε }, 2 A 1 = B r1 (x 1 ). A 1 es cerrado y es subconjunto de B ε (x) U 1. De igual forma, ya que U 2 es abierto y denso en X, podemos encontrar x 2 X y r 2 ε tales que 4 A 2 = B r2 (x 2 ) B r1 (x 1 ) U 2 B ε (x) U 2.

2. El teorema de Baire 91 Por inducción, construímos una sucesión decreciente de conjuntos cerrados no vacíos A n tal que diam A n ε 2 n 1 y A n B ε (x) U n. Por el teorema de Cantor, n A n = {x 0 } para algún x 0 X. Pero entonces x 0 A n B ε (x) U n para todo n, por lo que concluímos que x 0 B ε (x) U. Decimos que un subconjunto A X es denso en ninguna parte si el conjunto X \ Ā es denso. Es decir, para todo x Ā y ε > 0, B ε(x) Ā. En otras palabras, Ā no contiene ningún conjunto abierto. Ejemplo 5.5. El conjunto vacío es denso en ninguna parte. Ejemplo 5.6. Si X = R l, entonces todos sus subconjuntos finitos son densos en ninguna parte. De hecho, ésto es cierto de todos los subespacios discretos de R l, como Z ó {1/n}. Ejemplo 5.7. El conjunto de Cantor, definido en el ejemplo 1.41, es un conjunto denso en ninguna parte. Para verificar esto, sea x C y δ > 0. Si n es tal que 1 < δ, entonces es claro que 3n (x δ, x + δ) I, donde I es el intervalo de longitud 3 n que contiene a x obtenido en la n-ésima iteración en la construcción de C (véase el ejemplo 1.41). Entonces (x δ, x + δ) C. Definición 5.8. Sea (X, d) un espacio métrico. Decimos que X es un espacio de primera categoría si existe una sucesión de conjuntos E n X, densos en ninguna parte, tales que X = E n. n Decimos que X es de segunda categoría si no es de primera categoría. Es decir, un espacio es de primera categoría si es la unión contable de conjuntos densos en ninguna parte, y de segunda categoría si no lo es. Corolario 5.9 (Baire). Si (X, d) es un espacio métrico completo, entonces X es de segunda categoría.

92 5. Teoría de Baire Demostración. Sea {E n } una colección contable de subconjuntos de X densos en ninguna parte. Demostraremos que E n X. Sean n U n = X \ E n. Entonces cada U n es abierto, denso, y, por el teorema de Baire, la intersección U n = X \ E n n n es un conjunto denso. En particular, X \ n E n y, como E n E n, n n X \ E n tampoco es vacío. Por lo tanto E n X. Tanto el teorema 5.4 como el corolario 5.9 son conocidos como el teorema de Baire, y nosotros utilizaremos este nombre para referirnos a cualquiera de estos dos resultados. 3. Consecuencias del teorema de Baire 3.1. Cardinalidad. Una consecuencia directa del teorema de Baire es la incontabilidad de R. Si R fuera contable, entonces sería la unión contable de cada uno de sus puntos y, como hemos visto que cada subconjunto finito de R es denso en niguna parte, esto contradice la completitud de R. Podemos generalizar este resultado de la siguiente manera. Teorema 5.10. Sea (X, d) un espacio métrico completo tal que cada uno de sus puntos es un punto de acumulación de X. Entonces X es incontable. Demostración. Si x es un punto de acumulación de X, entonces todas las bolas B ε (x) contienen puntos de X distintos a x, por lo que entonces el conjunto X \ {x} es denso. Como {x} es cerrado, {x} es denso en niguna parte. Si X fuera contable, sería la unión contable de cada uno de sus puntos, una contradicción con la completitud de X, por el teorema de Baire. Ejemplo 5.11. El conjunto de Cantor es un subespacio completo de R (porque es cerrado en R y por el teorema 2.21) y no tiene puntos aislados (ejercicio 17). Por el teorema 5.10, C es incontable.

3. Consecuencias del teorema de Baire 93 3.2. Conjuntos G δ y F σ. Sabemos que la intersección infinita de conjuntos abiertos en un espacio métrico no es, en general, un conjunto abierto, y lo mismo sucede con uniones infinitas de conjuntos cerrados. Sin embargo, cuando nos referimos a uniones o intersecciones contables, podemos obtener algunos resultados útiles para resolver varios problemas de análisis. Definición 5.12. Sea (X, d) un espacio métrico. Decimos que A X es un conjunto G δ en X si A es la intersección contable de conjuntos abiertos en X. Decimos que A es un conjunto F σ si es la unión contable de conjuntos cerrados en X. Ejemplo 5.13. Todo subconjunto contable de X es un conjunto F σ en X. Esto se debe a que cada punto de X es cerrado en X. Ejemplo 5.14. Si x X, entonces {x} = B 1/n (x), n=1 por lo que entonces el conjunto {x} es un conjunto G δ en X. Ejemplo 5.15. Si A es un conjunto G δ en X, entonces X \A es un conjunto F σ. Esto se sigue por la leyes de De Morgan (ejercicio 4). De la misma forma, si A es F σ, entonces X \ A es G δ en X. Ejemplo 5.16. Por el ejemplo anterior, si X \ A es contable, entonces A es un conjunto G δ en X. Ejemplo 5.17. Los conjuntos Q y R \ Q son conjuntos F σ y G δ en R, respectivamente. El ejemplo 5.17 da origen a la siguiente pregunta: es el conjunto Q un conjunto G δ en R? La respuesta a esta pregunta es negativa, como lo establece el siguiente teorema. Teorema 5.18. El conjunto Q no es G δ en R. Demostración. Supongamos que Q = U n, n=1 donde los conjuntos U n son abiertos en R. Como Q es denso, cada U n es denso, y por lo tanto los conjuntos E n = R \ U n son densos en ninguna parte. Entonces podemos escribir R = E n {q}, q Q

94 5. Teoría de Baire la unión contable de conjuntos densos en ninguna parte (Q es contable). Esto contradice el teorema de Baire y la completitud de R. 3.3. Continuidad de funciones. Consideremos las siguientes funciones en R { 1 si x Q (5.1) f(x) = 0 si x R \ Q, 1 si x Q y x = p, mcd(p, q) = 1 (5.2) g(x) = q q 0 si x R \ Q, donde mcd(p, q) denota el máximo común divisor de los enteros p y q. La función f es discontinua en todos los puntos de R, mientras que g es continua precisamente en los números irracionales (ejercicios 9 y 10). Tales funciones nos hacen pensar en la siguiente pregunta: existe una función en R que sea continua precisamente en los números racionales, es decir, continua en Q y discontinua en R\Q? Demostraremos que tal función no existe en lo que resta de esta sección. De nuevo, utilizaremos el teorema de Baire para demostrar este resultado. Definición 5.19. Dada una función f : X Y, donde (X, d) y (Y, d ) son dos espacios métricos, definimos el conjunto de continuidades de f como el conjunto C f = {x X : f es continua en x}. Para contestar la pregunta anterior, estudiaremos algunas propiedades del conjunto C f. Para ésto, consideremos las funciones { sup{d (f(y), f(z)) : y, z B δ (x)} si f es acotada en B δ (x) O f (x, δ) = de otra forma y O f (x) = inf O(x, δ). δ>0 Definición 5.20. La función O f (x) es llamada la oscilación de f en x. Nótese que si δ δ, entonces O f (x, δ) O f (x, δ ), por lo que si O f (x, δ) < para algún δ > 0. O f (x) = lím δ 0 O f (x, δ) Ejemplo 5.21. Considere X = (0, 1) y f(x) = 1 x. Entonces O f ( 1 4, δ ) =

3. Consecuencias del teorema de Baire 95 si δ 1/4. Sin embargo, como f es continua en 1/4, para cada ε > 0 existe δ > 0 tal que ( (1) ) f B δ B ε (f ( 1) ) = B ε (4), 4 4 por lo que Entonces O f (1/4) = 0. O f ( 1 4, δ ) 2ε. En general, si f es continua en x, entonces O f (x) = 0. Proposición 5.22. Sean (X, d) y (Y, d ) dos espacios métricos, f : X Y y x X. Entonces f es continua en x si y sólo si O f (x) = 0. Demostración. Supongamos que f es continua en x y sea ε > 0. Entonces existe δ > 0 tal que f(b δ (x)) B ε/2 (f(x)). Entonces, si y, z B δ (x), d (f(y), f(z)) d (f(y), f(x)) + d (f(x), f(z)) < ε 2 + ε 2 = ε, por lo que entonces O f (x, δ) ε. Como ε > 0 es arbitrario, esto demuestra que O f (x) = 0. De manera inversa, supongamos que O f (x) = 0, y sea ε > 0. Como lím O f (x, δ) = 0, δ 0 existe δ > 0 tal que O f (x, δ) < ε; es decir, para y, z B δ (x), d (f(y), f(z)) < ε. Pero esto implica que f(y) B ε (f(x)) para todo y B δ (x) y, por lo tanto, f es continua en x. Tenemos entonces que C f = {x X : O f (x) = 0}. Ejemplo 5.23. Considere X = [0, 1] y f la función 0 x = 0 f(x) = 1 x 0 < x 1. Entonces O f (0, δ) = para todo δ > 0.

96 5. Teoría de Baire Ejemplo 5.24. Consideremos ahora X = [0, 1] y f la función 0 x = 0 f(x) = ( 1 sin 0 < x 1. x) Véase la figura 1. Entonces O f (0, δ) = 2 para todo δ > 0. 1 0.5 0.2 0.4 0.6 0.8 1-0.5-1 Figura 1. Gráfica de la función f en [0, 1]. Ejemplo 5.25. Si f : R R es la función definida por (5.1), entonces O f (x, δ) = 1 para todo x R y δ > 0. Ejemplo 5.26. Si g : R R es la función definida por (5.2), entonces O g (x) = g(x) (ejercicio 11). Los ejemplos anteriores describen la función oscilación en distintos puntos del dominio de una función. Sabemos que O f (x) = 0 si f es continua en x y O f (x) > 0 si f no es continua en x (o, si f no es acotada en ninguna vecindad de x). Ahora bien, si definimos el conjunto tenemos el siguiente resultado. O f (ε) = {x X : O f (x) < ε}, Lema 5.27. El conjunto O f (ε) es abierto en X. Demostración. Sea x O f (ε). Queremos encontrar un δ > 0 tal que B δ (x) O f (ε), es decir, O f (y) < ε para todo y B δ (x). Ahora bien, como x O f (ε), existe un número δ 0 tal que O f (x, δ 0 ) < ε. De hecho, para algún ε 0 > 0, O f (x, δ 0 ) ε ε 0, es decir, d (f(y), f(z)) ε ε 0 para todo y, z B δ0 (x).

3. Consecuencias del teorema de Baire 97 Sea δ = δ 0 /2. Demostraremos que B δ (x) O f (ε). Para ésto, sea y B δ (x). Si d(z, y) < δ, entonces d(z, x) d(z, y) + d(y, x) < δ + δ = δ 0, por lo que y entonces B δ (y) B δ0 (x) d (f(z), f(z )) ε ε 0 para z, z B δ (y). Ésto significa que O f (y, δ) ε ε 0, y por lo tanto O f (y) < ε. El siguiente teorema es el resultado principal de esta sección. Teorema 5.28. El conjunto C f es un conjunto G δ. Demostración. Ya hemos visto que C f = {x X : O f (x) = 0}, por lo que entonces C f = O f (1/n). n=1 Cada O f (1/n) es abierto por el lema 5.27 y, por lo tanto, C f es un conjunto G δ. Como el conjunto de los racionales no es un conjunto G δ, por el teorema 5.18 tenemos entonces la respuesta a la pregunta hecha al inicio de estas notas. Corolario 5.29. No existe una función f : R R tal que C f = Q. 3.4. Diferenciabilidad de funciones. En esta sección demostraremos la existencia de una función continua no diferenciable en ningún punto. De hecho, mostraremos que el conjunto de funciones continuas diferenciables en al menos un punto en [0, 1] es de primera categoría en C([0, 1]). Lema 5.30. Sea F n el conjunto F n = {f C([0, 1]) : existe x 0 [0, 1 1/n] tal que, Entonces 1. F n es cerrado en C([0, 1]). 2. F n es denso en ninguna parte. para todo x [x 0, 1), f(x) f(x 0 ) n(x x 0 )}.

98 5. Teoría de Baire Demostración. 1. Sea (f k ) una sucesión en F n, que converge en C([0, 1]), digamos f k f. Demostraremos que f F n. Para esto, escogemos, para cada k, x k [0, 1 1/n] tal que f k (x) f(x k ) n(x x 0 ) para todo x [x k, 1). Como [0, 1 1/n] es compacto, (x k ) tiene una subsucesión convergente, digamos x kl x 0. Demostraremos que f(x) f(x 0 ) n(x x 0 ) para todo x [x 0, 1). Sea ε > 0. Sea K tal que, para k, l K, f k (x) f(x) < ε 5 y f k (x) f l (x) < ε 5 para todo x [0, 1]. Ahora sea δ > 0 tal que, si x x 0 < δ, entonces f K (x) f K (x 0 ) < ε 5. Escogemos L tal que k L K y, si l L, entonces ε x kl x 0 < mín{δ, 5n }. Sea x [x 0, 1). Si x x kl, f(x) f(x 0 ) f(x) f kl (x) + f kl (x) f kl (x kl ) + f kl (x kl ) f K (x kl ) + f K (x kl ) f K (x 0 ) + f K (x 0 ) f(x 0 ) < ε 5 + n(x x k L ) + ε 5 + ε 5 + ε 5 = ε 5 + n(x x 0 + x 0 x kl ) + ε 5 + ε 5 + ε 5 < ε 5 + n(x x ε 0) + n 5n + ε 5 + ε 5 + ε 5 = n(x x 0) + ε. Si x < x kl, entonces x 0 x < x kl, por lo que x x 0 < δ. Entonces f(x) f(x 0 ) f(x) f K (x) + f K (x) f K (x 0 ) + f K (x 0 ) f(x 0 ) < ε 5 + ε 5 + ε 5 < n(x x 0) + ε. Como ε > 0 es arbitrario, entonces para todo x [x 0, 1). f(x) f(x 0 ) n(x x 0 ) 2. Sean f C([0, 1]) y ε > 0. Tenemos que encontrar g C([0, 1]) tal que f g u < ε y g F n. Como f es uniformemente continua, existe δ 0 tal que si x y < δ 0 entonces f(x) f(y) < ε/5.

3. Consecuencias del teorema de Baire 99 Sea δ = mín{δ 0, ε/(5n)}, y tomamos x 0 = 0 < x 1 <... < x m = 1 tales que x i x i 1 < δ. Definimos g : [0, 1] R como g(x i ) = f(x i ) + ( 1)i ε, i = 1, 2,... 5 g(x) = g(x i ) + g(x i) g(x i 1 ) (x x i ), x i 1 x x i. x i x i 1 Ahora bien, para x [0, 1], si x i 1 x x i, f(x) g(x) f(x) f(x i ) + f(x i ) g(x i ) + g(x i ) g(x) < ε 5 + ε 5 + g(x i) g(x i 1 ) = 2ε 5 + f(x i) f(x i 1 ) + ( 1) i 2ε 5 4ε 5 + f(x i) f(x i 1 ) < ε. Por lo tanto f g u < ε. Para mostrar que g F n, es suficiente con demostrar que las pendientes de las rectas que definen la función g son mayores, en valor absoluto, a n. Pero esto es g(x i ) g(x i 1 ) f(x i ) f(x i 1 ) + ( 1) i 2ε x i x i 1 = 5 x i x i 1 2ε 5 f(x 2ε i) f(x i 1 ) > 5 ε 5 x i x i 1 ε = n. 5n El conjunto F n es el conjunto de funciones f tales que, para algún x 0 [0, 1 1/n], las secantes a la gráfica de f que pasan por x 0 y por otro punto a la derecha de x 0, tienen pendiente menor que n, en valor absoluto. Es fácil de ver, entonces, que los F n contienen a todas las funciones diferenciables en al menos un punto. Lema 5.31. Sea f : [0, 1] R diferenciable en x 0 [0, 1). Entonces existe n tal que f F n. Demostración. Ejercicio 12. Hemos llegado entonces a nuestro objetivo. Teorema 5.32. Existe f C([0, 1]) tal que, para todo x [0, 1], f no es diferenciable en x.

100 5. Teoría de Baire Demostración. Por el lema 5.31, si f es diferenciable en x 0 [0, 1), entonces f F n para algún n. Pero, por el lema 5.30, cada F n es denso en ninguna parte, por lo que C([0, 1]) F n, por el teorema de Baire. Si g C([0, 1]) \ n=2 n=2 y ( 1 ) h(x) = (x 1) sen, x 1 entonces f = g + h no es diferenciable en ningún punto de [0, 1]. F n Ejercicios 1. Muestre que para todo subconjunto A del espacio métrico (X, d), diam A = diam Ā. 2. Sea A n una sucesión de subconjuntos de (X, d) tales que diam A n 0. Muestre que si A n = {x} y x n A n para cada n, entonces x n x. 3. Muestre la equivalencia entre los siguientes enunciados: * Sea S un subconjunto no vacío de R, acotado por arriba. Entonces S tiene un supremo. ** Sea [a n, b n ] una sucesión de intervalos encajados, es decir [a n+1, b n+1 ] [a n, b n ]. Entonces [a n, b n ]. El enunciado (**) es utilizado como Axioma de Completitud en el texto de Courant y John [1]. 4. Sea A un conjunto G δ en X. Entonces X \ A es F σ en X. Si A es F σ en X, entonces X \ A es G δ. 5. Sea A X denso en X. Entonces, si E es cerrado en X y E A =, entonces E es denso en ninguna parte. 6. Si A X es G δ y denso en X, entonces X \ A es de primera categoría. 7. Si A y X \ A son densos en el espacio completo X, entonces sólo uno de ellos puede ser F σ en X. 8. Sea A X contable y denso en el espacio completo X. Entonces A no es G δ.

Ejercicios 101 9. Muestre que la función f : R R definida por (5.1) es discontinua en todo punto de R. 10. Muestre que la función g : R R definida por (5.2) es continua en los irracionales y discontinua en los racionales. 11. Muestre que si g : R R está definida por (5.2), entonces O g (x) = g(x). 12. Demuestre el lema 5.31.