logo

다항 분포의 공분산 행렬 유도 📂확률분포론

다항 분포의 공분산 행렬 유도

공식

랜덤벡터 X:=(X1,,Xk)\mathbf{X} := \left( X_{1} , \cdots , X_{k} \right)다항분포 Mk(n,p)M_{k} \left( n, \mathbf{p} \right)공분산행렬은 다음과 같다. Cov(X)=n[p1(1p1)p1p2p1pkp2p1p2(1p2)p2p2pkp1pkp2pk(1pk)] \operatorname{Cov} \left( \mathbf{X} \right) = n \begin{bmatrix} p_{1} \left( 1 - p_{1} \right) & - p_{1} p_{2} & \cdots & - p_{1} p_{k} \\ - p_{2} p_{1} & p_{2} \left( 1 - p_{2} \right) & \cdots & - p_{2} p_{2} \\ \vdots & \vdots & \ddots & \vdots \\ - p_{k} p_{1} & - p_{k} p_{2} & \cdots & p_{k} \left( 1 - p_{k} \right) \end{bmatrix}

설명

다항 분포의 성분끼리는 독립이 아닌 정도가 아니라 거의 배반이라고 할 수 있는데, 랜덤벡터의 합이 nn 이어야한다는 제약조건이 있기 때문에 iji \ne j 일 때 각 성분끼리는 음의 상관관계를 가질수밖에 없다.

유도 1

i=ji = jCov(Xi,Xi)=Var(Xi)\operatorname{Cov} \left( X_{i} , X_{i} \right) = \Var \left( X_{i} \right)XiX_{i} 단독으로는 이항분포 Bin(n,pi)\text{Bin} \left( n , p_{i} \right) 를 따르므로 공분산행렬의 ii번째 대각성분npi(1pi)n p_{i} \left( 1 - p_{i} \right) 가 된다.

다항 분포의 묶음 성질: iji \ne j 에 대해 Xi+XjX_{i} + X_{j}이항분포 Bin(n,pi+pj)\text{Bin} \left( n , p_{i} + p_{j} \right) 를 따른다. Xi+XjBin(n,pi+pj) X_{i} + X_{j} \sim \text{Bin} \left( n , p_{i} + p_{j} \right)

iji \ne j 면 묶음성질에 따라 다음을 얻는다. Var(Xi+Xj)=VarXi+VarXj+2Cov(Xi,Xj)    n(pi+pj)(1pipj)=npi(1pi)+npj(1pj)+2Cov(Xi,Xj)    n(pi+pj)(pipj)=npi(pi)+npj(pj)+2Cov(Xi,Xj)    2npipj=2Cov(Xi,Xj)    Cov(Xi,Xj)=npipj \begin{align*} && \Var \left( X_{i} + X_{j} \right) =& \Var X_{i} + \Var X_{j} + 2 \operatorname{Cov} \left( X_{i} , X_{j} \right) \\ \implies && n \left( p_{i} + p_{j} \right) \left( 1 - p_{i} - p_{j} \right) =& n p_{i} \left( 1 - p_{i} \right) + n p_{j} \left( 1 - p_{j} \right)+ 2 \operatorname{Cov} \left( X_{i} , X_{j} \right) \\ \implies && n \left( p_{i} + p_{j} \right) \left( - p_{i} - p_{j} \right) =& n p_{i} \left( - p_{i} \right) + n p_{j} \left( - p_{j} \right)+ 2 \operatorname{Cov} \left( X_{i} , X_{j} \right) \\ \implies && - 2 n p_{i} p_{j} =& 2 \operatorname{Cov} \left( X_{i} , X_{j} \right) \\ \implies && \operatorname{Cov} \left( X_{i} , X_{j} \right) =& - n p_{i} p_{j} \end{align*}