02 一般的概率空间

在离散概率中，我们总是默认样本集$\Omega$是有限集。现在我们考虑一般的情况，假设$\Omega$可能是无穷集，甚至是不可数无穷集。

当样本集为可数无穷集时，在有的情境下，我们不再能讨论“基本事件”了。例如，我们能否回答“在整个自然数集$\N$上均匀随机地选择一个自然数，选到自然数$42$的概率是多少”？依照离散概率的方式，我们会令$\Omega=\N$，令每个自然数构成一个基本事件。因为要求均匀随机，所以每个基本事件的概率必须相等，那么$P(\Omega)=1=\sum\limits_{i \geq 0}P(i)$。既然$P(i)$全部相等，那么对其求和要么是0要么是无穷大，矛盾！所以，我们必须放弃讨论“均匀随机选择一个自然数的概率”这件事。

当样本集为不可数无穷集时，比如实数集$\R$，即便我们已经放弃讨论“均匀随机选择一个实数的概率”，还是会出现矛盾：我们在测度论01 测度中看到过这样一个现象，不存在一个定义在$\R$的全体子集上的测度$\mu$，既能满足$\mu((a,b))=b-a$，同时又能满足平移不变性和可数可加性，其证明用到了基于选择公理的Vitali Set的构造。可以设想，在概率论中，即便我们放弃讨论“均匀随机选择一个实数的概率”，我们还是有可能会涉及到讨论不可数无穷集上与“均匀随机”有关的情境，比如“在$[0,1]$区间内均匀随机选取一个实数，选中的数的期望是多少？”或者“在$[0,1]$上均匀随机选取两个点，这两个点连成的线段长度的期望是多少？”。我们希望这样的问题依然是有意义的，但测度论已经告诉我们不能在事件集$2^\R$上建立概率函数$P$来讨论这样的问题，因为这样的$P$将会是不存在的。而事实上，要想讨论这类问题，我们也不需要涉及那些“不可测”的事件。这预示着把测度论引入概率论对于讨论无穷样本集而言是非常合理的。

Kolmogorov公理

Kolmogorov建立了一般概率空间的公理系统，这套系统是建立在测度论语言之上的。在这套系统中，我们用$\sigma$-algebra来定义事件集：对于样本集为$\Omega$，其事件集$\mathcal{F}$是$\Omega$上的一个$\sigma$-algebra。也即$\mathcal{F}$满足三个条件：

• $\varnothing \in \mathcal{F}$，$\Omega \in \mathcal{F}$；
• $A \in \mathcal{F} \Rightarrow \Omega\setminus A \in \mathcal{F}$；
• 至多可数个$A_1,A_2 \cdots \in \mathcal{F} \Rightarrow \bigcup\limits_{i \geq 1} A_i \in \mathcal{F}$；

对于可测空间$(\Omega,\mathcal{F})$，如果函数$P:\mathcal{F}\to [0,\infty]$是一个测度，并且满足$P(\Omega)=1$，就称$P$是一个概率测度。具体地，函数$P$满足下面三个条件：

• $P(\varnothing)=0$；
• $P(\Omega)=1$；
• 至多可数个互不相交的事件序列$A_1,A_2,\cdots$满足$P(\bigcup\limits_{i\geq 1} A_i)=\sum\limits_{i\geq 1} P(A_i)$

三元组$(\Omega,\mathcal{F},P)$称为一个概率空间。容易验证，当$\Omega$为有限集，且$\mathcal{F}=2^\Omega$时，上述定义的概率空间等价于离散概率空间。

一般概率空间的性质

可以验证下列在离散概率空间上成立的结论，对于一般的概率空间也成立：

• 概率测度的连续性：对于事件的上升序列$A_1 \subseteq A_2 \subseteq A_3 \cdots$，有$\lim\limits_{n\to\infty}P(A_n)=P(\lim\limits_{n\to\infty}\bigcup\limits_{i=1}^{n}A_i)$；
• 全概率公式：如果$A_i$是$\Omega$的一个分划，则$\forall B \in \mathcal{F}$，$P(B)=\sum\limits_{i}P(B \cap A_i)$；
• Union Bound：$P(A\cup B)\le P(A)+P(B)$，推广到可数并$P(\bigcup\limits_{i\in I}A_i)\le \sum\limits_{i\in I}P(A_i)$；
• 容斥原理：$P(\bigcup\limits_{i=1}^n A_i)=\sum\limits_{\varnothing\neq J\subseteq [n]}(-1)^{|J|+1}P(\bigcap\limits_{j\in J}A_j)$；

仿照离散概率空间，我们定义：

• 条件概率：$P(A\mid B):=\dfrac{P(A \cap B)}{P(B)}$。条件概率满足链式法则：$P(\bigcap\limits_{i\in [n]}A_i)=\prod\limits_{i=1}^n P(A_i\mid \bigcap\limits_{j=1}^{i-1}A_j)$；
• 独立事件：$A,B$独立当且仅当$P(A \cap B)=P(A) \cdot P(B)$，记为$A\bot B$；称一列事件两两独立，若$\forall i,j\in [n],i\neq j,A_i\bot A_j$；称一列事件互相独立，若$\forall I\subseteq [n],P(\bigcap\limits_{i\in I}A_i)=\prod\limits_{i\in I}P(A_i)$。对于一个无穷集，定义它是互相独立的当且仅当它的任意有限子集都是互相独立的；

一般的随机变量

定义

在离散概率中，随机变量是样本集到实数的函数$X:\Omega \to \R$，任何一个函数$X:\Omega \to \R$都是一个随机变量。然而，在一般的概率空间中，并不是所有$\Omega\to\R$的映射都能被称为随机变量。其理由是：在离散概率中，我们常用到“$X=a$”或“$X\in I$”这样的事件，正是基于这样的事件我们定义了随机变量的分布、期望等等概念。所以这要求$X^{-1}(a)$，$X^{-1}(I)$必须落在$\sigma$-algebra $\mathcal{F}$内。于是，最自然的做法就是把随机变量定义为$\mathcal{F}$-可测函数。也即：

$X:\Omega \to \R$是随机变量，当且仅当$\forall A \in \mathcal{B}(\R)$，$X^{-1}(A) \in \mathcal{F}$。其中$\mathcal{B}(\R)$就是$\R$上的Borel Set。

因为$\mathcal{B}(\R)$可以等价定义为$\sigma(\{(-\infty,a]\mid a\in \R\})$或$\sigma(\{(-\infty,a]\mid a\in \Q\})$，所以要验证$X$是随机变量，只需验证所有形如$(-\infty,a]$的区间的原像是否在$\mathcal{F}$中。

给定随机变量$X$，我们知道$\forall A\in \mathcal{B}(\R)$都有$X^{-1}(A)\in \mathcal{F}$。因此我们可以定义一个函数$\mu_X:\mathcal{B}(\R)\to [0,1]$，其中$\mu_X(A):=P(X\in A)$。我们来验证，$(\R,\mathcal{B}(\R),\mu_X)$是一个测度空间。$\mu_X(\varnothing)=P(\varnothing)=0$；对于两两无交的集合$\{E_i\}\in \mathcal{B}(\R)$，$\mu_X(\bigcup\limits_{i=1}^{\infty}E_i)=P(X\in \bigcup\limits_{i=1}^{\infty}E_i)=\sum\limits_{i=1}^{\infty}P(X\in E_i)$ $=\sum\limits_{i=1}^{\infty}\mu_X(E_i)$。由此可见，每个随机变量$X$都给出了一个对应的$\mathcal{B}(\R)$上的测度，这样我们就得到了许多$\mathcal{B}(\R)$上的完全不同于勒贝格测度的测度。

累积分布函数

给定随机变量$X$，可以定义实数函数$F_X:\R\to [0,1]$，其中$F_X(a):=P(X\leq a)$。因为$X$是可测的，所以函数$F_X$总是存在。这个实数函数称为随机变量$X$的“累积分布函数(cumulative distribution function, CDF)”，或简称“分布函数”。可以验证分布函数$F_X$有下列性质：

• $F_X$单调递增：$\forall a\leq b,F_X(b)-F_X(a)=P(X\leq b)-P(X\leq a)$ $=P(X\in (a,b])\geq 0$；
• $\lim\limits_{x\to-\infty} F_X(x)=0,\lim\limits_{x\to +\infty}F_X(x)=1$：以$\lim\limits_{x\to-\infty} F_X(x)=0$为例，考虑序列$\{X\leq -1\}\supseteq \{X\leq -2\}\supseteq\cdots$，显然$\bigcap\limits_{n=1}^{\infty}\{X\leq -n\}=\varnothing$，那么$P(\bigcap\limits_{n=1}^{\infty}\{X\leq -n\})=0$，由概率测度的连续性$P(\bigcap\limits_{n=1}^{\infty}\{X\leq -n\})=$ $\lim\limits_{n\to \infty}P(X\leq -n)=\lim\limits_{x\to\infty}F_X(x)$。

$F_X$不一定是连续的，以骰子为例我们就得到一个分段的函数。但是：

• $F_X$是右连续的，也即$\forall x\in \R,\lim\limits_{y\to x^-}F_X(y)=F_X(x)$；
• $F_X$的间断点都是第一类间断点，且间断点总个数可数；（这是$F_X$单调递增的推论）

可以证明，如果一个$\R\to\R$的函数满足“①值域属于$[0,1]$；②单调递增；③负无穷处极限为0，正无穷处极限为1；④处处右连续”，那么一定存在一个由它作为累积分布函数的随机变量。

Rmk. 所以我们看到，当样本集为$\R$，开区间和闭区间的勒贝格测度总是相等的，因此$P(X=a)$总为0。在离散情形时，随机变量取某个值的概率可能不为0时，此时累积分布函数一定间断。

随机变量的独立性

我们根据事件的独立性，可以定义随机变量的独立性。如果随机变量$X,Y$满足$\forall x,y \in \R$，$P(X \leq x \land Y \leq y)=P(X \leq x)\cdot P(Y \leq y)$，就称随机变量$X,Y$独立。这个定义看似只对所有形如$(-\infty,a]$的区间定义，实际上它与“$\forall A,B \in \mathcal{B}(\R)$，$P(X \in A \land Y \in B)=P(X \in A)P(Y \in B)$”是等价的。这同样是源于$(-\infty,a]$与Borel Set的等价性，证明略。

在上面的定义中，$X \in A$和$Y \in B$本身就是事件，由此可见随机变量的独立性的定义是建立在概率空间里事件的独立性之上的，所以事件的pairwise independent, mutually independent都可以直接沿用到随机变量上，定义随机变量的pairwise independent和mutually independent，此处不再赘述。

离散分布的随机变量

一个随机变量是离散分布的，当且仅当存在可数个点$x_1,x_2,\cdots,x_n,\cdots \in \R$，使得$\sum\limits_{i=1}^{\infty}P(x_i)=1$。称$p(x)=P(X=x_i)$为$X$在$x$处的概率质量，$p$为概率质量函数(Probability Mass Function, PMF)。注意这并不意味着随机变量只能在可数个点上取值，它可以在许多点上取0，而只要满足在可数个点上构成全部的概率分布。

与离散相对的是连续分布的随机变量。一个随机变量是连续分布的当且仅当它是由一个连续的累积分布函数给出的。我们已经看到，如果随机变量是离散分布的那么累积分布函数必然会在离散的点上出现间断。因此如果累积分布函数连续，随机变量就不是离散分布的。关于连续分布将在之后再做讨论。

下面定义离散分布的随机变量的期望。由于随机变量只在可数个点上有非零的概率分布，因此我们可以根据随机变量的取值对样本空间$\Omega$作分划：$\Lambda_0,\Lambda_1,\cdots$。其中，$\Lambda_1=\{\omega \mid X(\omega)=x_1\}$，$\Lambda_2=\{\omega \mid X(\omega)=x_2\}$，$\cdots$并且还有零测集$P(\Lambda_0)=0$。我们定义$X$的期望为$\mathbb{E}[X]=\sum\limits_{i \geq 1}x_iP(\Lambda_i)$，如果满足$\sum\limits_{i \geq 1}|x_i|P(\Lambda_i)<\infty$。后面的这个条件称为随机变量$X$是“可积”的。换言之，只有当随机变量的取值乘以概率这一“级数”绝对收敛时，我们才能定义期望。这是由于绝对收敛能够保证级数的加法交换律，仅仅满足条件收敛的级数根据Riemann的更序级数定律，级数的值将与作加法的顺序有关最终取遍所有实数，而显然期望是不应该依赖于加法的顺序的。

如果$X$是随机变量，那么它是$\Omega \to \R$的映射。那么对于一个一元函数$f$（$\R \to \R$的映射），与随机变量这一映射复合以后$f(X)$也就成为一个随机变量。我们对$X$的取值做的分划在$f(X)$上依然适用，因此容易得到这个函数的随机变量的期望$\mathbb{E}[f(X)]=\sum\limits_{i \geq 1}f(x_i)P(\Lambda_i)$。当然前提是$f(X)$确实是一个随机变量（可测）并且是可积的。

如果随机变量的取值都为正整数，那么由于期望$\mathbb{E}[X]=\sum\limits_{i \geq 1}iP(X=i)$，它也可以等价地写作$\mathbb{E}[X]=\sum\limits_{i \geq 1}P(X \geq i)$。

期望的线性性

最重要的一个性质称为期望的线性性：如果随机变量$X,Y$是可积的，那么$aX+bY$这一随机变量也是可积的，并且满足$\mathbb{E}[aX+bY]=a\mathbb{E}[X]+b\mathbb{E}[Y]$。首先验证可积性：对$|aX+bY|$的取值作分划$\Lambda_i$，于是$\mathbb{E}[|aX+bY|]=\sum\limits_{i \geq 1}|ax_i+by_i|P(\Lambda_i) \leq a\sum\limits_{i\geq 1}|x_i|P(\Lambda_i)+b\sum\limits_{i\geq 1}|y_i|P(\Lambda_i)$，由于$X,Y$都是可积的因此右边的式子收敛，可积性得证。对$aX+bY$作分划$\Lambda'_i$，得$\mathbb{E}[aX+bY]=\sum\limits_{i \geq 1}(ax_i+by_i)P(\Lambda_i')=a\sum\limits_{i \geq 1}x_iP(\Lambda_i')+b\sum\limits_{i \geq 1}y_iP(\Lambda_i')=a\mathbb{E}[X]+b\mathbb{E}[Y]$。特别强调，期望的线性性是期望这一运算本身的一种性质，与随机变量的性质无关。$X,Y$即使不是独立的随机变量，线性性也依然满足。如果$X,Y$是独立的，我们根据定义容易进一步验证$\mathbb{E}[XY]=\mathbb{E}[X]\mathbb{E}[Y]$。

方差，$k$-阶矩

另一个常用的概念是方差(Variance)，它定义为$\text{Var}(X)=\mathbb{E}[(X-E[X])^2]$。我们知道最小二乘法中我们就是用差的平方来衡量拟合的好差。类似地，方差恰好也用平方和的形式来衡量随机变量的波动情况。利用期望的线性性，我们可以得到$V(X)=\mathbb{E}[X^2+\mathbb{E}[X]^2-2X\mathbb{E}[X]]$ $=\mathbb{E}[X^2]+\mathbb{E}[X]^2-2\mathbb{E}[X]\mathbb{E}[X]$ $=\mathbb{E}[X^2]-\mathbb{E}[X]^2$。因此假设一个随机变量的期望是已知的，衡量随机变量波动情况的关键信息其实就是$\mathbb{E}[X^2]$，这个项就称为“二阶矩”。类似地我们定义$\mathbb{E}[X^k]$为$k$-阶矩(k-th moment)。期望就是一阶矩。它是衡量随机变量分布情况的重要方法。根据我们化简的表达式，$\text{Var}(aX)=\mathbb{E}[(aX)^2]-\mathbb{E}[aX]^2=$ $a^2(\mathbb{E}[X^2]-\mathbb{E}[X]^2)=a^2\text{Var}[X]$。如果$X,Y$是独立的，$\text{Var}(X+Y)=\mathbb{E}[(X+Y)^2]-\mathbb{E}[X+Y]^2=\mathbb{E}[X^2]+\mathbb{E}[Y^2]+2\mathbb{E}[XY]$ $-(\mathbb{E}[X]+\mathbb{E}[Y])^2$ $=\mathbb{E}[X^2]+\mathbb{E}[Y^2]+2\mathbb{E}[X]\mathbb{E}[Y]-\mathbb{E}[X^2]-\mathbb{E}[Y^2]$ $-2\mathbb{E}[X]\mathbb{E}[Y]$ $=\text{Var}(X)+\text{Var}(Y)$，也就是说独立时方差有线性性（一般情况没有）。特别地我们指出，$\text{Var}(\sum X_i)=\sum \text{Var}(X_i)$并不要求mutually independent这么强的条件，只要满足pairwise independent就行了。

矩生成函数(Moment Generating Function)

我们看到，期望和方差都是对随机变量的一些表现的描述。期望描述分布的平均情况，方差描述分布的偏差情况。以此类推，每个$k$-阶矩都应当描述了分布在某一方面的性质。 任何一个$k-$阶矩都是通过用单个数字来描述随机变量，从而提供随机变量的部分信息。 那么我们能否找到一个描述随机变量全部信息的方式？

我们可以以一个随机变量的所有的$k$-阶矩作为系数来构造一个指数生成函数：构造$M(\theta)=\sum\limits_{k \geq 0}\mathbb{E}[X^k]\dfrac{\theta^k}{k!}$。我们不妨假定$\mathbb{E}$的求和与$\sum$的求和是可交换的（后面我们将会证明这一点），那么就可以简写为$M(\theta)=\mathbb{E}\left[\sum\limits_{k\geq 0} \dfrac{(\theta X)^k}{k!}\right]$，这恰好是指数函数的泰勒展开形式，所以有$M(\theta)=\mathbb{E}[e^{\theta X}]$。这就称为$X$的矩生成函数，它描述了一个随机变量的所有信息。可以证明，如果两个随机变量的矩生成函数相等，那么这两个随机变量完全相等。

根据矩生成函数可以求出任意一个$k$-阶矩：根据$M(\theta)=\sum\limits_{k \geq 0}\mathbb{E}[X^k]\dfrac{\theta^k}{k!}$（假定了期望和求和可交换），有$\mathbb{E}[X^n]=\dfrac{d^nM(\theta)}{dx^n}\Bigg|_{\theta=0}$。

$M(\theta)$是关于$\theta$的函数。如果在原点附近$M$存在一个收敛半径， 即存在$\theta_0>0$使得$|M(\theta)|<\infty$在$[-\theta_0,\theta_0]$上恒成立，那么可以推出$X$的任意正整数阶矩都存在，也即任意$n \in \N$都有$X^n$可积。这正是因为根据泰勒展开，指数函数（在这里是正是我们的已知收敛的生成函数）就是$X^n$的一个上界——对于$x>0$，根据泰勒展开始终有$e^{\theta_0x} = \sum\limits_{k \geq 0}\dfrac{\theta_0^kx^k}{k!} \geq \dfrac{\theta_0^nx^n}{n!}$，因此$x^n \leq \dfrac{n!}{\theta_0^n}e^{\theta_0x}$恒成立。所以对于任意的$n$，$E[|X|^n] \leq E[\dfrac{n!}{\theta_0^n}e^{\theta_0 |x|}]=\dfrac{n!}{\theta_0^n}E[e^{\theta_0x}+e^{-\theta_0x}]=C(M(\theta_0)+M(-\theta_0))<\infty$。

几类特殊的离散分布

伯努利分布(Bernoulli Distribution)

$X \sim Ber(p)$当且仅当$P(1)=p,P(0)=1-p=q$。例如，丢硬币有$p$的概率丢到正面，$1-p$的概率丢到反面。计算得到$\mathbb{E}[X]=p$，$\mathbb{E}[X^k]=p$，$\text{Var}[X]=\mathbb{E}[X^2]-\mathbb{E}[X]^2=p-p^2=pq$，$M(\theta)=\mathbb{E}[e^{\theta X}]=p\cdot e^{\theta}+q \cdot e^0$ $=pe^\theta+q$。

二项分布(Binomial Distribution)

$X \sim Bin(n,p)$当且仅当$X$是进行$n$次$Ber(p)$的伯努利试验后的成功总次数。计算得到$\mathbb{E}[X]=np$（期望线性性），$\text{Var}[X]=npq$（独立变量的方差线性性）。$M(\theta)=\mathbb{E}[e^{\theta X}]=\sum\limits_{k=0}^{n}e^{\theta k} \cdot \dbinom{n}{k}p^kq^{n-k}$ $=(pe^\theta+q)^n$。

几何分布(Geometric Distribution)

$X \sim Geom(p)$当且仅当$P(X=k)=q^{k-1}p$。我们知道期望可以用等差乘等比的数列求和来得到，在这里我们采用其它方法来计算。我们先计算矩生成函数：$M(\theta)=\sum\limits_{k \geq 1}q^{k-1}pe^{\theta k}$，这就是一个等比级数的求和，化简得到$M(\theta)=\sum\limits_{k \geq 0}q^kpe^{\theta(k+1)}=pe^\theta\sum\limits_{k \geq 0}(qe^\theta)^k=\dfrac{pe^\theta}{1-qe^\theta}$。于是很容易算出期望（1阶矩）：$M'(\theta)=\dfrac{pe^\theta(1-qe^\theta)-pe^\theta(-qe^\theta)}{(1-qe^\theta)^2}=\dfrac{pe^\theta}{(1-qe^\theta)^2}$，$\mathbb{E}[X]=M'(0)=\dfrac{p}{(1-q)^2}=\dfrac{1}{p}$。求二阶导就能求出二阶矩，从而求出方差$Var[X]=\dfrac{q}{p^2}$。

超几何分布(Hypergeometric Distribution)

$X \sim Hyp(n,a,m)$指$n$个球里有$a$个白球$n-a$个黑球，现在取$m$个球，$P(X=k)$为取到$k$个白球的概率，因此$P(X=k)=\dfrac{\binom{a}{k}\binom{n-a}{m-k}}{\binom{n}{m}}$。它可以看作这$n$个不同的球随机排列去取前$m$个，于是有$X=\sum\limits_{i=1}^{m}\mathbb{1}[X_i \text{ is white}]$，那么根据期望的线性性$\mathbb{E}[X]=\sum\limits_{i=1}^{m}P(X_i\text{ is white})=m\cdot \dfrac{a}{n}$。求方差对上式平方展开后计算即可。

泊松分布(Poisson Distribution)

$X \sim Poi(\lambda)$当且仅当$P(X=k)=e^{-\lambda}\dfrac{\lambda^k}{k!}$。我们来理解这奇特的项是怎么来的。泊松分布是已知随机变量的平均值$\lambda$时对实际的分布情况的一种估计。例如考虑一段时间内的人流量，我们把这个时间段分成$n$段，当$n$足够大时每一小段时间里最多只能来一个人。我们认为人流量的分布是与时间无关的，于是每一段上人的来与不来形成一个二项分布。而由于我们已知总人流量的平均值（期望）是$\lambda$，因此必须有$np=\lambda$，也就是这个二项分布的概率必须满足$p=\dfrac{\lambda}{n}$。在这样的预设下我们就可以求出总人流量为$X=k$的概率：$P(X=k)=\dbinom{n}{k}\left(\dfrac{\lambda}{n}\right)^k\left(1-\dfrac{\lambda}{n}\right)^{n-k}$。现在让$n \to \infty$，于是$\lim\limits_{n \to \infty}P(X=k)=\lim\limits_{n \to \infty}\dfrac{n(n-1)\cdots (n-k+1)}{k!}\dfrac{\lambda^k}{n^k}\left(1-\dfrac{\lambda}{n}\right)^{n}\left(1-\dfrac{\lambda}{n}\right)^{-k}$ $=\dfrac{\lambda^k}{k!}\lim\limits_{n \to \infty}\left(1-\dfrac{\lambda}{n}\right)^{n}=e^{-\lambda}\dfrac{\lambda^k}{k!}$。这正是我们写出的泊松分布的项。它可以看作已知期望的二项分布的极限情况。$\sum\limits_{i} P(X=i)$确实等于1，因为提出常数项$e^{-\lambda}$以后留下的是$e^\lambda$的泰勒展开式。

泊松分布的矩生成函数$M(\theta)=\mathbb{E}[e^{\theta X}]=\sum\limits_{k}e^{-\lambda}\dfrac{\lambda^k}{k!}\cdot e^{\theta k}=e^{-\lambda}\sum\limits_{k}\dfrac{(\lambda e^{\theta})^k}{k!}$ $=e^{-\lambda}e^{\lambda e^{\theta}}$ $=e^{\lambda (e^{\theta}-1)}$。于是$M'(\theta)=e^{\lambda(e^{\theta}-1)}\cdot \lambda e^\theta$，于是$\mathbb{E}[X]=M'(0)=\lambda$。二阶矩$\mathbb{E}[X^2]=\lambda(1+\lambda)$，于是$\text{Var}(X)=\lambda$。

泊松分布满足一些简单的性质：例如$X \sim Poi(\lambda_1),Y \sim Poi(\lambda_2)$，就有$X+Y \sim Poi(\lambda_1+\lambda_2)$。一个有趣的性质是，我们可以用泊松分布来等价地描述小球装箱问题：把$m$个不同的小球装进$n$个不同的箱子里，每$i$个箱子里的小球数$X_i$就是一个随机变量，然而这$n$个随机变量显然不是独立的，所以当我们要刻画一个形如$f(X_1,\cdots,X_n)$的函数时是不太方便的。我们代入定义式计算就容易证明，我们可以用$n$个独立的满足泊松分布$Poi(\lambda)$的变量$Y_i$就可以代替$X_i$，只要满足前提$\sum\limits_{i}Y_i=m$。其中$\lambda$可以是任意的。所谓“代替”，就是$P[(X_1,\cdots,X_n)=(a_1,\cdots,a_n)]$与$P[(Y_1,\cdots,Y_n)=(a_1,\cdots,a_n)]$始终相等。我们注意到，前提$\sum\limits_{i}Y_i=m$依然是个很强的约束，因此还是不方便处理。事实上，这样的替换的真正用途往往是一些“放缩”的思路，我们把$\sum\limits_{i}Y_i=m$改为$Y_i \sim Poi(\dfrac{m}{n})$，可以证明不等式$\mathbb{E}[f(X_1,\cdots,X_n)] \leq e\sqrt{m}\mathbb{E}[(Y_1,\cdots,Y_n)]$对于任何$f:\N^n \to \N$恒成立。根据全期望公式$\mathbb{E}[f(Y_1,\cdots,Y_n)]=\sum\limits_{k}\mathbb{E}[f(Y_1,\cdots,Y_n)\mid \sum Y_i=k]P(\sum Y_i=k)$ $\geq \mathbb{E}[f(Y_1,\cdots,Y_n)\mid \sum Y_i=m]P(\sum Y_i=m)=\mathbb{E}[f(X_1,\cdots,X_n)]P(\sum Y_i=m)$ $=\mathbb{E}[f(X_1,\cdots,X_n)]e^{-m}\dfrac{m^m}{m!}$，根据Stirling's Formula可以证明$m! =\sqrt{2\pi m}\dfrac{m^m}{e^m}(1+o(\dfrac{1}{m})) \leq e\sqrt{m}\dfrac{m^m}{e^m}$，于是$\mathbb{E}[f(X_1,\cdots,X_n)]e^{-m}\dfrac{m^m}{m!} \geq \mathbb{E}[f(X_1,\cdots,X_n)]\dfrac{1}{e\sqrt{m}}$。