第 4 章 伯努利分佈 Bernoulli distribution
伯努利分佈，說的就是一個簡單的二分變量 (1, 0)，它取1時的概率如果是 \(\pi\)。那麼我們可以計算這個分佈的期望值:
\[ \begin{align} E(X) &=\sum_x xP(X=x) \\ &=1\times\pi + 0\times(1-\pi)\\ &=\pi \end{align} \]
由於 \(x=x^2\)，因爲 \(x=0,1\), 所以 \(E[X^2]=E[X]\)，那麼方差爲：
\[ \begin{align} Var(X) &=E[X^2]-E[X]^2 \\ &=E[X]-E[X]^2 \\ &=\pi - \pi^2 \\ &=\pi(1-\pi) \end{align} \]
證明，\(X,Y\) 爲互爲獨立的隨機離散變量時，
a) \(E(XY)=E(X)E(Y)\) ;
b) \(Var(X+Y)=Var(X)+Var(Y)\)
- 證明
\[ \begin{align} E(XY) &= \sum_x\sum_y xyP(X=x, Y=y) \\ \because &\; X,Y \text{are independent to each other} \\ \therefore &= \sum_x\sum_y xyP(X=x)P(Y=y)\\ &=\sum_x xP(X=x)\sum_y yP(Y=y)\\ &=E(X)E(Y) \end{align} \]
- 證明 根據方差的定義：
\[ \begin{align} Var(X+Y) &= E((X+Y)^2)-E(X+Y)^2 \\ & \; \text{Expand} \\ &=E(X^2+2XY+Y^2)-(E(X)+E(Y))^2\\ &=E(X^2)+E(Y^2)+2E(XY)\\ &\;\;\; - E(X)^2-E(Y)^2-2E(X)E(Y)\\ &\; \text{We just showed}\; E(XY)=E(X)E(Y)\\ &=E(X^2)-E(X)^2+E(Y^2)-E(Y)^2 \\ &=Var(X)+Var(Y) \end{align} \]