数学におけるベールの範疇定理(ベールのはんちゅうていり、)、あるいはベールのカテゴリー定理は、位相空間論および関数解析学で重要な道具で、ルネ=ルイ・ベールが1899年の博士学位論文において証明した。この定理には二つの形があり、何れも位相空間がベール空間であるための十分条件を与えるものになっている。
定理の主張 ベール空間は「開稠密部分集合 からなる任意の可算族に対して、それらの交わり は稠密」という性質を満たす位相空間である。
主張 1 (BCT1) 任意の完備距離空間はベール空間である。より一般に、完備擬距離空間の開部分集合に同相な任意の位相空間はベール空間である。従って任意の完備距離化可能空間はベール空間である。 主張 2 (BCT2) 任意の局所コンパクトハウスドルフ空間はベール空間である。 このことの証明は主張 1 と同様で、コンパクト性からくる有限交叉性が鍵になる。
この二つの主張は一方が他方を含んでいるとかいうようなものでないことに注意すべきである。これは(有理数の全体に後述するような距離を入れたものや任意の無限次元バナッハ空間のように)局所コンパクトでない完備距離空間が存在することや、あるいは(例えば非自明なコンパクトハウスドルフ空間の非可算積空間や非可算フォート空間など函数解析学で用いられるいくつかの函数空間のように)距離化可能でない局所コンパクトハウスドルフ空間が存在することによる。詳細はを参照。
主張 3 (BCT3) 空でない完備距離空間、あるいは内点を持つその部分集合は疎()な閉集合の可算和にはならない。 これは BCT1 と同値だがこちらの定式化のほうが応用上しばしば有用である。これから、「空でない完備距離空間が閉部分集合の可算和に書けるならば、その閉集合のうちの少なくとも一つは内部が空でない」ということも言える。
選択公理との関係 二つの主張 BCT1 と BCT2 を任意の完備距離空間に対して証明するには、適当な形の選択公理を用いる必要がある。実は BCT1 は ZF のもとで従属選択公理と呼ばれる弱い形の選択公理と同値である。
完備距離空間がさらに可分であることを仮定する制限された形のベールの範疇定理であれば、何らの選択公理を付け加えることなく ZF において証明することができる。この弱い形の範疇定理は特に実数直線、ベール空間 、およびカントール空間 に適用できる。
範疇定理の利用 ベールの範疇定理(BCT)は、数学の様々な分野で空間の「厚み」や「存在」を保証するために利用される。
関数解析学への応用 主張 BCT1(完備距離空間に関する定理)は、バナッハ空間論の基礎となる以下の重要な定理の証明に使われる。 開写像定理: 連続線形作用素がいつ開写像になるかを決定する。 閉グラフ定理: 作用素のグラフが閉集合であれば、その作用素が連続であることを導く。 一様有界性原理: 各点ごとに有界な作用素の族が、一様に有界であることを保証する。 バナッハ空間の次元の制限: バナッハ空間が可算無限の代数的次元(ハメル基底の濃度)を持ち得ないことが証明される。 バナッハ空間 が可算基底 を持つと仮定すると、 は有限次元部分空間 の可算和として表される。各 は閉集合かつ内部が空(疎集合)であるため、これは が完備であること(BCT3)に矛盾する。
実解析への応用例 実数上の連続関数全体の性質や、その極限の挙動を調べる際にも強力な道具となる。 至る所微分不可能な連続関数の存在: 閉区間 上の実数値連続関数全体のなすバナッハ空間 において、「少なくとも一点で微分可能な関数」全体の集合は第一類集合となる。したがって、その補集合である「至る所微分不可能な連続関数」全体の集合は残留集合(稠密な 集合)である。これは、ワイエルシュトラス関数のような例が特異な存在ではなく、連続関数の中ではむしろ「一般的(典型的)」な性質であることを示している。 連続関数の極限の挙動: 主張 BCT1 を用いて、関数の漸近的な挙動に関する以下の性質が証明できる。 が連続関数であり、任意の に対して ( は正の整数)が成り立つならば、 である。
濃度の解析と具体例 非可算性の証明: BCT1 は、孤立点を持たない空でない完備距離空間が非可算であることを示すのに利用できる。 が孤立点を持たない可算完備距離空間ならば、各一元集合 は疎集合となり、 自体が第一類集合となって完備性に矛盾するためである。これにより、実数全体の集合 が非可算であることが導かれる。 ベール空間の具体例: 以下の空間がベール空間であることが BCT1 より示される。 実数空間 無理数全体の空間(連分数展開等を利用した特定の距離において完備となるため) カントール集合
多様体論・複素解析への応用 多様体論: 主張 BCT2(局所コンパクトハウスドルフ空間に関する定理)に基づき、任意の有限次元ハウスドルフ多様体はベール空間となる。これは、長い直線のような距離化可能でない多様体においても成立する。 多変数複素関数論: 基礎的な結果であるハルトークスの定理の証明に用いられる。
関連項目 ベールの性質 ヴォルテラの定理
注釈
参考文献
外部リンク T. Tao, 245B, Notes 9: The Baire category theorem and its Banach space consequences