数学の分野における、位相空間内の疎集合(そしゅうごう、英語: nowhere dense set)[* 1]とは、閉包の内部が空であるような集合のことである。この言葉の順番が大事で、例えば、R の部分集合としての、有理数からなる集合は、その「内部の閉包が空である」という性質を持つが、疎集合ではなく、実際 R において稠密である。
集合を扱う空間が問題となる。すなわち、ある集合 A はある位相空間 X の部分空間として考えられた場合には疎集合であるが、別の位相空間 Y の部分空間として考えられた場合にはそうはならない、ということが起こりうる。疎集合は、それ自身においては常に稠密である。
疎集合のすべての部分集合はまた疎集合であり、有限個の疎集合の合併もまた疎集合である。すなわち、疎集合は集合のイデアル(無視可能な集合(英語版)に関する適正な概念)を形成する。可算個の疎集合の合併は、しかし、必ずしも疎集合ではない(したがって、疎集合は必ずしもσ-イデアル(英語版)を形成しない)。そのような合併はやせた集合[* 1]あるいは第1類集合と呼ばれる。この概念は、ベールの範疇定理を考える上で重要である。
- 疎集合は必ずしも閉ではない(例えば、集合 は実数空間において疎集合である)。しかし、疎集合はある閉疎集合、すなわちその閉包(上の例に 0 を加えたもの)に含まれる。実際、ある集合が疎集合であることと、その閉包が疎集合であることは必要十分である。
- 閉疎集合の補集合は稠密な開集合であり、したがって、疎集合の補集合は稠密な内部を持つ集合である。
- 開集合の境界は、閉疎集合である。
- すべての閉疎集合は、ある開集合の境界である。
疎集合はあらゆる意味において無視可能(negligible)である必要はない。例えば、X を単位区間 [0,1] としたとき、それはルベーグ測度がゼロの稠密集合(有理数の集合など)を含むだけでなく、正測度を持つ疎集合をも含む。
(カントール集合の変形であるような)一例として、[0,1] からすべての二進分数(英語版)(既約分数として a/2n の形を持つような分数。ただし a と n は正の整数)とその周りの区間 (a/2n − 1/22n+1, a/2n + 1/22n+1) を除いたような集合を考える。各 n に対し、多くとも合計 1/2n+1 の区間を除いているため、結局そのような区間を除かれた後に残った疎集合は少なくとも 1/2 の測度(実際は重なる部分の関係で 0.535... を少し超えた値)を持ち、そのため、ある意味で全体の空間 [0,1] の大部分を占めていることが分かる。この集合が疎であることは、それが閉であり空であるような内部を持つことから分かる。任意の区間 (a, b) はその集合には含まれない。なぜならば (a, b) に含まれる二進分数は取り除かれているからである。
この方法を一般化することで、 1 未満の任意の値に対して、その値と等しい測度を持つような単位区間内の疎集合を構成することができる。ただし、測度をちょうど 1 にすることはできない(できたとすると、その集合の閉包の補集合は測度 0 の開集合となるが、これは不可能である)。
他のより単純な例として、有限のルベーグ測度をもつ の稠密開集合 が与えられたとき、 が必ず非有限ルベーグ測度をもつ の閉部分集合となり、 はまた で疎集合となることが挙げられる。(なぜならば、 の内部は空だから。)この有限測度を持つ稠密開集合 は、有理数全体 がルベーグ測度0であることを証明するときによく構成される。
次のようにしても疎集合を得られる。全単射写像 (実際は は全射写像で十分である。)を選び、適当な に対して とする。(ここに、最後の式に用いられた記法はミンコフスキー和であり、記述を簡明にするためのものである。)開集合 は、 で稠密であり、 を含み、そのルベーグ測度は を超えない。次の開集合ではなく、閉集合の和をとるとこれはFσ集合である。
さらに、包含関係 をみたす。 が疎集合であることから、 も疎集合である。また、 がベール空間なことから、 は で稠密である(これは が に似て で疎集合になれないかもしれないことを意味する。)。さらにルベーグ測度は0で、 の nonmeagre subset である(すなわち、 は の第2類の集合。)。このことから、 は の comeagre subset でその内部はまた空であることが従う。故に は疎集合であってその測度は無限大である。
は の可算稠密部分集合で置き換えることができる。さらに、適当な に対して を に置き換えることができる。