logo

브룩의 보조정리 증명 📂확률론

브룩의 보조정리 증명

정리 1

랜덤벡터 Z:ΩRnZ : \Omega \to \mathbb{R}^{n}확률질량함수 p:RnRp : \mathbb{R}^{n} \to \mathbb{R} 에 대해 ZZ서포트를 다음과 같이 나타내자. SZ={(z1,,zn)Rn:p(z1,,zn)>0}Ω S_{Z} = \left\{ \left( z_{1} , \cdots , z_{n} \right) \in \mathbb{R}^{n} : p \left( z_{1} , \cdots , z_{n} \right) > 0 \right\} \subset \Omega 모든 x:=(x1,,xn)SZ\mathbf{x} := \left( x_{1} , \cdots , x_{n} \right) \in S_{Z}y:=(y1,,yn)SZ\mathbf{y} := \left( y_{1} , \cdots , y_{n} \right) \in S_{Z} 에 대해 다음이 성립한다. p(x)p(y)=k=1np(xkx1,,xk1,yk+1,,yn)p(ykx1,,xk1,yk+1,,yn) {{ p \left( \mathbf{x} \right) } \over { p \left( \mathbf{y} \right) }} = \prod_{k=1}^{n} {{ p \left( x_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) } \over { p \left( y_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) }} 혹은 p(x)p \left( \mathbf{x} \right) 에 대해 다음과 같이 정리할 수 있다. p(x)=p(y)k=1np(xkx1,,xk1,yk+1,,yn)p(ykx1,,xk1,yk+1,,yn) p \left( \mathbf{x} \right) = p \left( \mathbf{y} \right) \prod_{k=1}^{n} {{ p \left( x_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) } \over { p \left( y_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) }}

설명

조인트분포를 알면 마지널분포를 알 수 있지만, 일반적으로 독립이라는 가정이 없다면 마지널분포만으로 조인트분포를 알 수 있는 것은 아니다. 그러나 브룩의 보조정리는 제한적이나마 마지널분포에서 조인트분포를 얻을 수 있음을 보여준다.

증명

Part 1. 일변량분포

p(xy)=p(x,y)p(y)\displaystyle p \left( x | y \right) = {{ p \left( x , y \right) } \over { p \left( y \right) }} 이므로 p(x,y)=p(xy)p(y)=p(yx)p(x) \begin{align*} p \left( x , y \right) =& p \left( x | y \right) p (y) \\ =& p \left( y | x \right) p (x) \end{align*} 에서 다음을 얻는다. p(x)p(y)=p(xy)p(yx) {{ p(x) } \over { p(y) }} = {{ p \left( x | y \right) } \over { p \left( y | x \right) }} 혹은 p(x)p (x) 에 대해 다음과 같이 정리할 수 있다. p(x)=p(xy)p(yx)p(y) p(x) = {{ p \left( x | y \right) } \over { p \left( y | x \right) }} p(y)


Part 2. 다변량분포 2

본질적으로 이변량분포에 대해서 한 번만 하면 nn변량에서도 마찬가지로 반복할 수 있다. p(x1,x2)=p(x1x2)p(x2)=p(x1x2)p(x2y1)p(y1x2)p(y1)=p(x1x2)p(x2y1)p(y1x2)p(y2y1)p(y2y1)p(y1)=p(x1x2)p(y1x2)p(x2y1)p(y2y1)p(y2y1)p(y1)=p(x1x2)p(y1x2)p(x2y1)p(y2y1)p(y1,y2)=p(y1,y2)k=12p(xkx1,,xk1,yk+1,,yn)p(ykx1,,xk1,yk+1,,yn) \begin{align*} p \left( x_{1} , x_{2} \right) =& p \left( x_{1} | x_{2} \right) p \left( x_{2} \right) \\ =& p \left( x_{1} | x_{2} \right) {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{1} | x_{2} \right) }} p \left( y_{1} \right) \\ =& p \left( x_{1} | x_{2} \right) {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{1} | x_{2} \right) }} {{ p \left( y_{2} | y_{1} \right) } \over { p \left( y_{2} | y_{1} \right) }} p \left( y_{1} \right) \\ =& {{ p \left( x_{1} | x_{2} \right) } \over { p \left( y_{1} | x_{2} \right) }} {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{2} | y_{1} \right) }} p \left( y_{2} | y_{1} \right) p \left( y_{1} \right) \\ =& {{ p \left( x_{1} | x_{2} \right) } \over { p \left( y_{1} | x_{2} \right) }} {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{2} | y_{1} \right) }} p \left( y_{1} , y_{2} \right) \\ =& p \left( y_{1} , y_{2} \right) \prod_{k=1}^{2} {{ p \left( x_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) } \over { p \left( y_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) }} \end{align*}