概率论基础（一）：条件均值与全期望公式
【条件均值与全期望公式】
假定两个连续的随机变量
X
,
Y
X,Y
X,Y，它们的联合概率密度为
p
X
,
Y
(
x
,
y
)
=
p
X
(
x
)
p
Y
∣
X
(
y
∣
x
)
=
p
Y
(
y
)
p
X
∣
Y
(
x
∣
y
)
p_{\rm X,Y}(x,y)=p_{\rm X}(x)p_{\rm Y|X}(y|x)=p_{\rm Y}(y)p_{\rm X|Y}(x|y)
pX,Y(x,y)=pX(x)pY∣X(y∣x)=pY(y)pX∣Y(x∣y)则有条件均值
E
[
X
∣
Y
=
y
]
=
E
[
X
∣
y
]
{\mathbb E}[X|Y=y]={\mathbb E}[X|y]
E[X∣Y=y]=E[X∣y]为
E
[
X
∣
y
]
=
∫
−
∞
∞
x
p
X
∣
Y
(
x
∣
y
)
d
x
=
∫
−
∞
∞
x
p
X
,
Y
(
x
,
y
)
p
Y
(
y
)
d
x
.
{\mathbb E}[X|y]=\int_{-\infty}^{\infty}xp_{\rm X|Y}(x|y)dx=\int_{-\infty}^{\infty}x\frac{p_{\rm X,Y}(x,y)}{p_{\rm Y}(y)}dx.
E[X∣y]=∫−∞∞xpX∣Y(x∣y)dx=∫−∞∞xpY(y)pX,Y(x,y)dx.进一步我们来推导全期望数学公式
E
Y
{
E
X
∣
Y
[
X
∣
Y
]
}
=
E
X
[
x
]
.
{\mathbb E}_{\rm Y}\{{\mathbb E}_{\rm X|Y}[X|Y]\}={\mathbb E}_{\rm X}[x].
EY{EX∣Y[X∣Y]}=EX[x].证明如下：
E
Y
{
E
X
∣
Y
[
X
∣
Y
]
}
=
∫
−
∞
∞
{
E
X
∣
Y
[
X
∣
y
]
}
p
Y
(
y
)
d
y
{\mathbb E}_{\rm Y}\{{\mathbb E}_{\rm X|Y}[X|Y]\}=\int_{-\infty}^{\infty}\{{\mathbb E}_{\rm X|Y}[X|y]\}p_{\rm Y}(y)dy
EY{EX∣Y[X∣Y]}=∫−∞∞{EX∣Y[X∣y]}pY(y)dy
=
∫
−
∞
∞
[
∫
−
∞
∞
x
p
X
∣
Y
(
x
∣
y
)
d
x
]
p
Y
(
y
)
d
y
=\int_{-\infty}^{\infty}[\int_{-\infty}^{\infty}xp_{\rm X|Y}(x|y)dx]p_{\rm Y}(y)dy
=∫−∞∞[∫−∞∞xpX∣Y(x∣y)dx]pY(y)dy
=
∫
−
∞
∞
x
∫
−
∞
∞
p
X
∣
Y
(
x
∣
y
)
p
Y
(
y
)
d
y
d
x
=\int_{-\infty}^{\infty}x\int_{-\infty}^{\infty}p_{\rm X|Y}(x|y)p_{\rm Y}(y)dydx
=∫−∞∞x∫−∞∞pX∣Y(x∣y)pY(y)dydx
=
∫
−
∞
∞
x
[
∫
−
∞
∞
p
X
,
Y
(
x
,
y
)
d
y
]
d
x
=\int_{-\infty}^{\infty}x[\int_{-\infty}^{\infty}p_{\rm X,Y}(x,y)dy]dx
=∫−∞∞x[∫−∞∞pX,Y(x,y)dy]dx
=
∫
−
∞
∞
x
p
X
(
x
)
d
x
=
E
X
(
x
)
=\int_{-\infty}^{\infty}xp_{\rm X}(x)dx={\mathbb E}_{\rm X}(x)
=∫−∞∞xpX(x)dx=EX(x)