期望的期望

计算 $E[E[X]]$ 时，需要区分普通期望与条件期望。设 $X$ 是可积随机变量，则 $E[X]$ 是常数，因此

$$E[E[X]]=E[X].$$

条件期望与全期望公式

设 $X,Y$ 是随机变量，$E[X\mid Y]$ 表示在给定 $Y$ 时 $X$ 的条件期望。全期望公式为

$$E[X]=E[E[X\mid Y]].$$

这意味着可以先计算 $Y$ 取定时 $X$ 的条件期望，再对 $Y$ 求期望。

离散情形下，

$$E[X]=\sum_y P(Y=y)E[X\mid Y=y].$$

若把外层条件退化为不提供额外信息的常量，则 $E[X\mid Y]=E[X]$，从而得到 $E[E[X]]=E[X]$。

两个相关表达式

令 $\mu=E[X]$。由于 $\mu$ 是常数，

$$E[E[X]^2]=E[\mu^2]=\mu^2,$$

同时

$$E[X\cdot E[X]] =E[\mu X] =\mu E[X] =\mu^2.$$

因此在相关期望存在时，

$$E[E[X]^2]=E[X\cdot E[X]]=(E[X])^2.$$

这里的关键是 $E[X]$ 已经是常数，而 $E[X\mid Y]$ 通常仍是依赖于 $Y$ 的随机变量，二者不能混淆。