01 测度

测度论的产生源于人们意识到黎曼积分并不是定义“积分”的最好形式。黎曼可积要求对于积分区间的任意区间划分在每个小区间中任意选择函数值，在小区间长度趋向0时都得到一个确定的积分值。这就导致一些直观上应当可积的函数是黎曼不可积的：例如Dirichlet函数（在有理数取1，无理数时取0）在$[0,1]$上是黎曼不可积的，因为在任意的小区间上函数都发生0,1的振荡。然而我们知道$[0,1]$上无理数是不可数的，有理数是可数的，也即“几乎处处”都是无理数，因此Dirichlet函数在$[0,1]$上的积分应当被定义为$0$。

出现这样的情况，是因为黎曼积分依赖于关于“区间”的划分，而不是关于“任意子集”的划分。如果我们把区间的长度拓展到任意集合的“长度”，那么就可以处理更多函数的积分。我们把这种广义上的“长度”称为“测度(measure)”。例如，对于Dirichlet函数而言，如果我们能定义$[0,1]$上的有理数的“测度”为$0$，$[0,1]$上的无理数的“测度”为$1$，那么Dirichlet函数的积分值就可以定义为“有理数的测度乘以函数在有理数上的取值，加上无理数的测度乘以函数在无理数上的取值”，也就是$0\times 1+1\times 0=0$，这样我们就得到了一种新的积分方法，这种积分方法是黎曼积分的推广，并且更符合我们对“积分”的直观。这就是勒贝格积分。

于是，测度论的首要任务就是定义“什么是测度”。任何集合都能有测度吗？存不存在多种不同的测度？测度为0应该和“可数”等价吗？等等。

外测度

外测度的定义与性质

把区间$(a,b)$的测度定义为$b-a$是很自然的，我们不希望改变测度的这一性质。进而，把两个不相交的区间的测度定义为两个区间的测度之和也是很自然的，这一点也不应该改变。例如，$\{1,2\}\cup \{4,5\}$的测度自然应当被定义为$1+1=2$。

既然已经能够明确定义区间的测度以及不相交区间的测度，那么我们有这样一种方法可以基于区间测度定义出所有实数子集的测度：对于实数集的一个子集$A$，取所有能覆盖集合$A$的（可数个）开区间的长度之和的下极限，把这个下极限作为$A$的测度。这一定义总是有效的，其依据是实数的确界存在定理。以上定义称为外测度。严格地表述：

定义实数子集$A\subseteq \R$的外测度(outer measure)如下：$\forall A\subseteq \R$，$A$的外测度定义为$\inf\{\sum\limits_{k=1}^{\infty}\ell(I_k)\mid I_1,I_2,\cdots\text{ are open intervals such that }A \subseteq \bigcup\limits_{k=1}^{\infty}I_k\}$，其中$\ell(I_k)$表示开区间$I_k$的长度。$A$的外测度记为$|A|$。

注意，定义中并没有要求$I_k$两两不相交。但是因为定义中使用了“下极限”，它总会取到最优的那个覆盖，因此不必考虑开区间是否相交的问题。

根据外测度的定义可以证明，任意可数实数集$A=\{a_i\}_{i=1}^{\infty}$的外测度为0。Pf：不妨设$a_1<\cdots<a_n$，那么$\forall \varepsilon>0$，$A\subseteq \bigcup\limits_{k=1}^{n}(a_k-\varepsilon/2^k,a_k+\varepsilon/2^k)$，可见$A$的外测度为$\inf\{\sum\limits_{k=1}^{n}2\varepsilon/2^k\mid \varepsilon>0\}=0$。Qed. 由此可见$\Q$的外测度会被定义为0，符合我们的期望。

显然，外测度具有平移不变性(translation invariant)，也即$\forall A\subseteq \R,t\in \R$，$A$的外测度等于$t+A$（$:=\{t+x\mid x\in A\}$）的外测度。这符合我们的期望。

根据实数的有限开覆盖定理(Heine-Borel Theorem)，容易证明实数闭区间$[a,b]$和开区间$(a,b)$的外测度等于$b-a$。可见连续区间这样的不可数集合的外测度将大于0，符合我们的期望。

然而，外测度不满足可数可加性(countable additivity)，也即我们能找到集合$A_1,A_2,\cdots\subseteq\R$使得$\forall i,j,A_i\cap A_j = \varnothing$，并且$|\bigcup\limits_{k=1}^{\infty}A_k|\neq \sum\limits_{k=1}^{\infty}|A_k|$。反例的构造是不平凡的，需要用到选择公理(the Axiom of Choice)。Pf：对于实数区间$[-1,1]$，任意一个实数$x\in [-1,1]$，我们选出$[-1,1]$中所有与它差值为有理数的数放入一个集合$\tilde x=\{c\mid c\in [-1,1] \land c-x\in \Q\}$。容易发现，$\{\tilde x\mid x\in [-1,1]\}$构成了$[-1,1]$上的一个等价类。不同等价类中的任意两个元素间隔都是无理数。现在，如果我们承认选择公理，那么我们可以从每个等价类里挑选一个元素，构成集合$V$。$V$中任意两个元素的差都是无理数。注意到，如果用有理数对$V$做平移，它将覆盖整个实轴。换言之，设$\Q\cap [-2,2]=\{r_1,r_2,\cdots\}$，那么$[-1,1]\subseteq \bigcup\limits_{k=1}^{\infty}(r_k+V)$。因为$\forall x\in [-1,1]$，一定存在$v\in \tilde x$满足$v\in V$，因此$v-x \in \Q$且$|v-x|\leq 2$，也即$v-x \in \Q\cap[-2,2]$。自然的（其实是需要证明的），$2=|[-1,1]|\leq \left|\bigcup\limits_{k=1}^{\infty}(r_k+V)\right|\leq \sum\limits_{k=1}^{\infty}|r_k+V|$，根据平移不变性$\sum\limits_{k=1}^{\infty}|V|\geq 2$，因此$|V|>0$。那么可以设$|V|=s>0$，所以$\sum\limits_{k=1}^{\infty}s=\lim\limits_{n\to\infty}ns=\infty$。但是$\bigcup\limits_{k=1}^{\infty}(r_k+V)\subseteq [-3,3]$，因此$\left|\bigcup\limits_{k=1}^{\infty}(r_k+V)\right|\leq 6$。所以$\left|\bigcup\limits_{k=1}^{\infty}(r_k+V)\right|\neq \sum\limits_{k=1}^{\infty}|r_k+V|$，因为后者是无穷大。$\{r_k+V\}$是两两无交的，因此外测度不满足可数可加性。

上面的集合$V$是Vitali给出的经典构造，称为Vitali Set。

不存在性

外测度不满足可数可加性是一个相当令人失望的事实，因为可数可加性是极限理论的基础。看来我们不得不放弃外测度，去寻找其它满足可数可加性的测度。是否存在一个测度$\mu$满足所有以下四个性质？

• 定义在$\R$的所有子集上。也即$\mu:\mathcal{P}\to [0,\infty)\cup \{\infty\}$
• 对于所有开区间$(a,b)$，$\mu((a,b))=b-a$；
• 平移不变性：$\forall A\subseteq \R,t\in \R,\mu(A)=\mu(t+A)$；
• 可数可加性：$\forall A_1,A_2,\cdots\subseteq\R$满足$\forall i,j,A_i\cap A_j = \varnothing$，并且$\mu\left(\bigcup\limits_{k=1}^{\infty}A_k\right)= \sum\limits_{k=1}^{\infty}\mu(A_k)$；

这里我们引入了无穷符号$\infty$，为了方便书写。例如，我们可以写$\mu(\R)=\infty$。$\infty$满足以下运算性质：

$\forall a\in [0,\infty),a+\infty=\infty$；
$\infty+\infty=\infty$；
$\forall a \in (0,\infty),a\cdot \infty = \infty$；
$0\cdot \infty =0$；
$\infty-\infty$与$\infty/\infty$是未定义的。

今后我们会把$[0,\infty)\cup \{\infty\}$简写为$[0,\infty]$；

然而我们可以证明不存在$\mu$满足所有这四条性质。这一证明的核心在于，假设存在这样一个$\mu$，那么我们将能够推出上面用来证明外测度不满足可数可加性的所有性质。然而我们假设了$\mu$满足了可数可加性，因此矛盾。（换言之，上文的证明只用到了外测度的若干性质而没有用到外测度的直接定义，因此是可推广的）

这说明，我们必须放弃上面四条性质中的某条。既然第二、三、四条都是不容放弃的，所以我们必须放弃第一条。我们可以建立一套关于测度的理论，它允许我们可以不对一个集合的全部子集定义测度，而只对大部分子集定义测度。被定义测度的集合被认为是“可测(measurable)”的，余下的那一小部分集合将会被认为是“不可测”的。

$\sigma$-algebra

那么，关键的问题是：我们应该抛弃哪些集合，认为它们是不可测的呢？首先，我们希望空集是可测的；其次，如果一个子集是可测的，那么其补集也应当是可测的；最重要的，因为我们需要可数可加性来建立极限的理论，所以可数个可测子集的并也应当是可测的。数学家发现，这三个关于可测的条件就足够我们建立起极限的理论了。

我们把满足以上三个条件的代数结构称为一个$\sigma$-algebra，其中，“sigma”就表示“可加性”。$\sigma$-algebra中的元素就是那些被认为是“可测”的集合。下面正式给出$\sigma$-algebra的定义：

对于集合$X$，我们称$\mathcal{P}(X)$的子集$\mathcal{S}$是关于$X$的一个$\sigma$-algebra，如果它满足以下三个条件：

• $\varnothing \in \mathcal{S}$；
• $\forall A,A \in \mathcal{S} \Rightarrow X\setminus A \in \mathcal{S}$；
• 任意可数个$\{A_i\}_{i=1}^{\infty}$，$(\forall i,A_i\in \mathcal{S}) \Rightarrow \bigcup\limits_{i =1}^{\infty} A_i \in \mathcal{S}$；（尽管这里只定义了无穷可数的并集，但只需取一列空集就可以把定义拓展为有限集合的并集，换言之这里的“可数”等价于“至多可数”）

初学者可能会误以为$\sigma$-algebra是一种确定性的构造，但事实上并不是这样。$\sigma$-algebra的定义给出了三个判断条件。对于集合$X$，任意$\mathcal{S}\subseteq \mathcal{P}(X)$只要满足上面三个条件，就是一个$\sigma$-algebra。$X$上的$\sigma$-algebra不是唯一的，就好像$X$上的拓扑空间不是唯一的一样，这就是为什么它被称为一个“代数”。因此，“可测”这一概念总是相对于具体的$\sigma$-algebra而言的。你不能问实数集$\Q$是不是可测的，而应该问实数集$\Q$在$\sigma$-algebra $\mathcal{S}$下是不是可测的。一般而言，对于集合$X$以及其上的$\sigma$-algebra $\mathcal{S}$，我们把二元组$(X,\mathcal{S})$称为一个可测空间(measurable space)，把$\mathcal{S}$中的元素称为$\mathcal{S}$-可测集($\mathcal{S}$-measurable sets)。

由定义可以推出下面一些性质：

• $\{\varnothing,X\}$是一个$\sigma$-algebra

• $\mathcal{P}(X)$是一个$\sigma$-algebra；

• 任意可数个$\{A_i\}_{i=1}^{\infty}$，$(\forall i,A_i\in \mathcal{S}) \Rightarrow \bigcap\limits_{i =1}^{\infty} A_i \in \mathcal{S}$；（至多可数）

Pf: 由条件二，$X\setminus A_i\in \mathcal{S}$；由条件三，$\bigcup\limits_{i=1}^{\infty}(X\setminus A_i)=X \setminus \left(\bigcap\limits_{i=1}^{\infty}A_i\right)\in \mathcal{S}$；由条件二，$\bigcap\limits_{i =1}^{\infty} A_i \in \mathcal{S}$；

• 如果$X$有一族（不一定可数）$\sigma$-algebra $\{\mathcal{S}_\alpha\}$，那么$\bigcap\limits_{\alpha}\mathcal{S}_\alpha$依然是一个$\sigma$-algebra；（这意味着为了得到同时满足多个条件的$\sigma$-algebra，只需对各个满足单个条件的$\sigma$-algebra取交集）
• 根据上一条性质，对任意集合$C\subseteq \mathcal{P}(X)$，取所有包含$C$的$\sigma$-algbera $\mathcal{S}_\alpha$，$\bigcap\limits_{C\subseteq \mathcal{S}_\alpha} \mathcal{S}_\alpha$依然是一个$\sigma$-algebra，我们把它记为$\sigma(C)$，称它是由$C$生成(generate)的$\sigma$-algebra。注意到$\sigma(C)$总是存在，因为$\mathcal{P}(X)$本身就是一个包含$C$的$\sigma$-algebra。$\sigma(C)$是包含$C$的最小的$\sigma$-algebra。
• 如果$C_1\subseteq C_2$，那么$\sigma(C_1)\subseteq \sigma(C_2)$

Borel Set

实数集上最常用的$\sigma$-algebra是：$\R$上所有的开集生成的$\sigma$-algebra，称为Borel Set，记为$\mathcal{B}(\R)$，该$\sigma$-algebra里的每个元素称为是Borel可测的。这构成了$\R$上的一个可测空间$(\R,\mathcal{B}(\R))$。

回忆：实数上开集的定义是，集合$U$是开集当且仅当$\forall x\in U,\exists (a,b)\subseteq U \text{ s.t. } x \in U$。可以证明，实数上的任何开集一定能写成可数个（无交）开区间的并。

事实上，只要能定义“开集”我们就能定义Borel Set。所以我们可以一般的拓扑空间上定义Borel Set。设$(X,\tau)$是拓扑空间，那么定义$\mathcal{B}(X):=\sigma(\tau)$，它是拓扑空间里所有的开集生成的$\sigma$-algebra。

$\mathcal{B}(\R)$和$\mathcal{P}(\R)$相比，丢弃了哪些子集呢？根据定义，我们可以发现$\mathcal{B}(\R)$里包含：所有开集（开区间以及任意多开区间的并）；所有闭集（闭集是开集的补集，包括闭区间，$\{x\}$等等）；半开半闭区间（开区间和闭区间的并）；有理数集（对可数个$\{q_i\}$取并）……事实上，所有我们能够直观想象的集合基本都落在$\mathcal{B}(\R)$中，不落在$\mathcal{B}(\R)$中的集合的构造并不是平凡的，并且几乎一定会用到选择公理。比如，可以证明上文提到的Vitali Set就不是Borel可测的。

$\mathcal{B}(\R)$的等价定义

我们注意到，$\R$上所有开区间生成的$\sigma$-algebra $\sigma(\{(a,b)\})$一定包含在$\mathcal{B}(\R)$中，因为开区间是特殊的开集。反之，由于$\R$上的任何开集都可以表示为可数个开区间的并，所以任何一个开集都落在$\sigma(\{(a,b)\})$中，也即$\sigma(\{(a,b)\})$是一个包含实数上所有开集的$\sigma$-algebra。而$\mathcal{B}(\R)$是包含实数上所有开集的最小$\sigma$-algebra。综上，我们得到$\mathcal{B}(\R)= \sigma(\{(a,b)\})$。所以， $\mathcal{B}(\R)$可以等价定义为$\R$上所有的开区间生成的$\sigma$-algebra。

又注意到，任何闭区间$[a,b]$都可以看作开区间$(-\infty,a)\cup (b,+\infty)$的补集。所以$\sigma(\{(a,b)\})$包含所有闭区间，所以$\sigma(\{[a,b]\})\subseteq \sigma(\{(a,b)\})$。任何开区间$(a,b)$都可以看作$\bigcup\limits_{k=1}^{\infty}[a_i,b_i]$，其中$a_i$单调向下趋向$a$，$b_i$单调向上趋向$b$，所以$\sigma(\{[a,b]\})$包含所有开区间，所以$\sigma(\{(a,b)\})\subseteq \sigma(\{[a,b]\})$。综上可知，$\sigma(\{(a,b)\} )=\sigma(\{[a,b]\} )$。所以， $\mathcal{B}(\R)$可以等价定义为$\R$上所有的闭区间生成的$\sigma$-algebra。

类似地，$(-\infty,a)$可以看作$\bigcup\limits_{k=1}^{\infty}(x_k,a),x_k\to-\infty$，$(a,b)$可以看作$\bigcup\limits_{k=1}^{\infty}(-\infty,b_i],b_i\to b$，其中$(-\infty,b_i]=(-\infty,b)\setminus (-\infty,b_i)$。所以， $\mathcal{B}(\R)$可以等价定义为$\R$上所有形如$(-\infty,a)$生成的$\sigma$-algebra。同理还可以定义为所有形如$(-\infty,a]$的，形如$(a,+\infty)$的，形如$[a,\infty)$的。还可以限定$a$只取有理数，因为无理数可以用有理数逼近。等等。

可测函数

对于集合$X$，设$\mathcal{S}$是$X$上的一个$\sigma$-algebra，那么$(X,\mathcal{S})$是一个可测空间。设函数$f:X\to \R$，如果对于$\R$上的任何Borel可测集$B\in \mathcal{B}(\R)$都有$f^{-1}(B)\in \mathcal{S}$，就称$f$是一个$\mathcal{S}$-可测函数($\mathcal{S}$-measurable function)。

回忆：对于$f:X\to Y$以及$A\subseteq Y$，$f^{-1}(A)$定义为$\{x\in X\mid f(x)\in A\}$

上面考虑的是映射到实数的函数。容易发现定义中只用到了值域的Borel Set的性质，因此很容易把上述定义推广到一般的拓扑空间$Y$上：对于可测空间$(X,\mathcal{S})$以及拓扑空间$(Y,\tau)$，$f:X\to Y$是一个$\mathcal{S}$-可测函数当且仅当$\forall B\in \mathcal{B}(Y),f^{-1}(B)\in \mathcal{S}$（其中$\mathcal{B}(Y)$是用拓扑$\tau$中的全体开集生成的$\sigma$-algebra）。

注意，在定义可测函数时我们总是在值域上取Borel Set（一个固定的测度），而只要求定义域上有一个可测空间（一个不固定的测度）。这意味着，一个函数是否是“可测”取决于定义域上的$\sigma$-algebra $\mathcal{S}$的选取。对于$f:X\to \R$，如果取$\mathcal{S}=\{\varnothing,X\}$，那么只有常数函数是可测的；如果取$\mathcal{S}=\mathcal{P}(X)$，那么任何函数都是可测的。当$X$也为实数集或实数集的一个子集时，一个常见的选择是取$\mathcal{S}$为$\mathcal{B}(\R)$，这样定义的可测函数称为Borel可测函数。可以证明：

• $\R \to \R$的所有连续函数都是Borel可测函数；
• $\R \to \R$的所有单调函数都是Borel可测函数；

按照原始定义，要判定$f:X\to \R$是否可测需要检查所有$B\in\mathcal{B}(\R)$的原像$f^{-1}(B)$是否落在$\mathcal{S}$中。而我们可以证明，只要所有$(a,\infty)\in \mathcal{B}(\R)$的原像$f^{-1}((a,\infty))$都落在$\mathcal{S}$中，就有$f$是$\mathcal{S}$-可测函数。

可以证明下列关于可测函数的运算、复合、取极限的性质：

• 如果$f:X\to \R$是$\mathcal{S}$-可测函数，$g:\R \to \R$是一个Borel可测函数，那么复合函数$g\circ f$是$\mathcal{S}$-可测函数；
• 如果$f,g:X\to \R$是$\mathcal{S}$-可测函数，那么$f+g,f-g,fg$都是$\mathcal{S}$-可测函数；如果$\forall x,g(x)\neq 0$，那么$\dfrac{f}{g}$是$S$-可测函数；
• 设$f_1,f_2,\cdots:X\to \R$是一列$S$-可测函数，如果对于任意$x \in X$，极限$\lim\limits_{n\to \infty}f_n(x)$都存在，那么定义$f(x):=\lim\limits_{n\to\infty}f_n(x)$，我们有$f$是$\mathcal{S}$-可测函数；

测度空间

测度的定义

现在我们终于可以定义可测空间上的测度了。给定测度空间$(X,\mathcal{S})$，如果函数$\mu:\mathcal{S} \to [0,\infty]$满足下面两个条件，就称$\mu$是可测空间$(X,S)$上的一个测度(measure)：

• $\mu(\varnothing)=0$；
• 任意可数个两两无交的$\mathcal{S}$中的元素$E_1,E_2,\cdots$，$\mu\left(\bigcup\limits_{i=1}^{\infty} E_i\right)=\sum\limits_{i=1}^{\infty}\mu(E_i)$；

三元组$(X,\mathcal{S},\mu)$称为一个测度空间。

可以证明测度有下列性质：

• 对于$D,E\in \mathcal{S}$，如果$D\subseteq E$，那么$\mu(D)\subseteq \mu(E)$；

• 对于$D,E\in \mathcal{S}$，如果$\mu(D)<\infty$，那么$\mu(E\setminus D)=\mu(E)-\mu(D)$；

• Union Bound：对于任意可数个$\mathcal{S}$中的元素$E_1,E_2,\cdots$，$\mu\left(\bigcup\limits_{i=1}^{\infty} E_i\right)\leq\sum\limits_{i=1}^{\infty}\mu(E_i)$；

• 测度的连续性：对于任意可数个$\mathcal{S}$中的元素$E_1,E_2,\cdots$，如果$\forall i,E_i\subseteq E_{i+1}$，那么$\mu\left(\bigcup\limits_{i=1}^{\infty} E_i\right)=\lim\limits_{n\to\infty}\mu(E_n)$；

• 测度的连续性：对于任意可数个$\mathcal{S}$中的元素$E_1,E_2,\cdots$，如果$\forall i,E_i\supseteq E_{i+1}$，那么$\mu\left(\bigcap\limits_{i=1}^{\infty} E_i\right)=\lim\limits_{n\to\infty}\mu(E_n)$；

• 测度的容斥原理：对于$D,E\in \mathcal{S}$，如果$\mu(D\cap E)<\infty$，那么$\mu(D\cup E)=\mu(D)+\mu(E)-\mu(D\cap E)$；

勒贝格测度

在实数集$\R$上，最重要的一个结果就是：如果把“外测度”限定到可测空间$(\R,\mathcal{B}(\R))$上，得到的函数$\mu:\mathcal{B}(\R)\to [0,\infty]$构成一个测度。这个测度就称为勒贝格测度(Lebesgue's measure)。

根据我们在外测度中得到的结论，实数上的可数集的勒贝格测度为0。那么，反之是否成立呢？是否勒贝格测度为0的实数上的集合一定是可数集？Cantor给出了反例，他证明了下面这个集合的勒贝格测度为0，但是是不可数的：$[0,1]\setminus \left(\bigcup\limits_{k=1}^{\infty} G_k\right)$，其中$G_1=(1/3,2/3)$；$G_2=(1/9,2/9)\cup (7/9,8/9)$；...依此类推，$G_{n+1}$会在$[0,1]\setminus \left(\bigcup\limits_{k=1}^{n} G_k\right)$中所有等长的线段的三等分点处取中间那一段开区间。这个集合称为Cantor集。首先，这个集合是Borel可测的；同时，Cantor集中不可能有任何一段“有长度”的区间，所以任何外测度大于0的覆盖都一定有一个更小的覆盖，因此Cantor集的外测度为0。然而，我们发现Cantor集恰好就是所有三进制下不包含数位“1”的小数的集合（$G_1$限制了小数点后第1位不能是1，$G_2$限制了小数点后第二位不能是1，以此类推），所以它应当等势于$\{0,1\}^\N$，因此是不可数集。

集合列的极限

为什么$\mu\left(\bigcap\limits_{i=1}^{\infty} E_i\right)=\lim\limits_{n\to\infty}\mu(E_n)$这一性质称为“连续性”呢？我们知道，在众多数学领域中，“连续”的含义是极限符号可以从函数外移到函数内。所以，我们希望把测度的连续性看作“$\mu\left(\lim\limits_{n\to\infty} E_n\right)=\lim\limits_{n\to\infty}\mu(E_n)$”。如果这样，我们就是把“集合列”$E_1\subseteq E_2\subseteq E_3\cdots$的极限定义为了$\lim\limits_{n\to\infty}E_n:=\bigcup\limits_{i=1}^{\infty}E_i$。同理，集合列$E_1\supseteq E_2\supseteq E_3\cdots$的极限就定义为了$\lim\limits_{n\to\infty}E_n:=\bigcap\limits_{i=1}^{\infty}E_i$。

上极限与下极限

我们把$E_1\subseteq E_2\subseteq E_3\cdots$这样的集合列称为单调递增的，$E_1\supseteq E_2\supseteq E_3\cdots$称为单调递减的。对于单调的集合列，我们已经给出了其极限的定义。类比于实数列，单调的实数列的极限总是可定义的。而在实数理论中，非单调的实数列的上极限和下极限总是可定义的。其中，$\{a_n\}$上极限定义为$\overline{\lim\limits_{n\to\infty}}a_n:=\lim\limits_{n\to\infty}\sup\limits_{k\geq n}a_k$，下极限定义为\underline{\lim}\limits_{n\to\infty}a_n:=\lim\limits_{n\to\infty}\inf\limits_{k\geq n}a_k。那么通过类比，要想定义集合列的上下极限，只需定义集合列的“确界”。单调递增的数列的极限就是其上确界，单调递减的数列的极限就是其下确界。而单调递增的集合列的极限就是所有集合的并，单调递减的集合列的极限就是所有集合的交。所以，我们把集合列的上确界定义为集合的并，下确界定义为集合的交：$\sup\limits_{k\geq n}E_k:=\bigcup\limits_{k=n}^{\infty}E_k$，$\inf\limits_{k\geq n}E_k:=\bigcap\limits_{k=n}^{\infty}E_k$。这样，$\{\sup\limits_{k\geq n}E_k\}_{k=1}^{\infty}$就是单调递减的集合列，$\{\inf\limits_{k\geq n}E_k\}_{k=1}^{\infty}$就是单调递增的集合列。由此可见，可以这样定义集合列的上极限和下极限：$\overline{\lim\limits_{n\to\infty}}E_n:=\bigcap\limits_{n=1}^{\infty}\bigcup\limits_{k=n}^{\infty}E_k$，\underline{\lim}\limits_{n\to\infty}E_n:=\bigcup\limits_{n=1}^{\infty}\bigcap\limits_{k=n}^{\infty}E_k。

给定任意一个集合里$\{E_n\}$，其上极限$\overline{\lim\limits_{n\to\infty}}E_n=\bigcap\limits_{n=1}^{\infty}\bigcup\limits_{k=n}^{\infty}E_k$也是一个集合，这个集合中包含哪些元素呢？对于任意元素$x$，如果它只在有限多个$E_n$中出现，那么当$k$足够大时$x$一定不会出现在$\bigcup\limits_{k=n}^{\infty}E_k$中，因此不会出现在$\overline{\lim\limits_{n\to\infty}}E_n$。如果$x$在无穷多个$E_n$中出现，那么对于任意$n$，$x$都会落在$\bigcup\limits_{k=n}^{\infty}E_k$中，因此$x$一定会出现在$\overline{\lim\limits_{n\to\infty}}E_n$。综上可得，$\overline{\lim\limits_{n\to\infty}}E_n$中恰好包含所有在集合列$\{E_n\}$中无穷次出现的元素。

\underline{\lim}\limits_{n\to\infty}E_n中恰好包含所有在集合列$\{E_n\}$中“只有有穷次不出现”的元素。证明：对于任意元素$x$，如果它只有有穷次不出现，那么存在一个$N$使得$x$出现在$E_N$之后的所有集合里，可见$x\in \bigcap\limits_{k=N}^{\infty}E_k$，因此$x\in\bigcup\limits_{n=1}^{\infty}\bigcap\limits_{k=n}^{\infty}E_k$。而如果$x$有无穷次不出现，那么对于任意$N$，都存在一个$k>N$使得$x\not\in E_k$。所以$x\not\in \bigcap\limits_{k=N}^{\infty}E_k$，因此$x\not\in\bigcup\limits_{n=1}^{\infty}\bigcap\limits_{k=n}^{\infty}E_k$。

参考资料

[1] Sheldon Axler, Measure, Integration & Real Analysis
[2] Chihao Zhang, Probability Theory, SJTU MATH2701