📂確率論

ブルックの補助定理証明

定理 ¹

ランダムベクトル $Z : \Omega \to \mathbb{R}^{n}$ の 確率質量関数 $p : \mathbb{R}^{n} \to \mathbb{R}$ について、$Z$ の サポート を以下のように表そう。 $$S_{Z} = \left\{ \left( z_{1} , \cdots , z_{n} \right) \in \mathbb{R}^{n} : p \left( z_{1} , \cdots , z_{n} \right) > 0 \right\} \subset \Omega$$ 全ての $\mathbf{x} := \left( x_{1} , \cdots , x_{n} \right) \in S_{Z}$ と $\mathbf{y} := \left( y_{1} , \cdots , y_{n} \right) \in S_{Z}$ に対して、以下が成り立つ。 $${{ p \left( \mathbf{x} \right) } \over { p \left( \mathbf{y} \right) }} = \prod_{k=1}^{n} {{ p \left( x_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) } \over { p \left( y_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) }}$$ または $p \left( \mathbf{x} \right)$ について、以下のように整理できる。 $$p \left( \mathbf{x} \right) = p \left( \mathbf{y} \right) \prod_{k=1}^{n} {{ p \left( x_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) } \over { p \left( y_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) }}$$

説明

結合分布を知れば、周辺分布も分かるが、一般的に 独立 という仮定がなければ、周辺分布だけから結合分布を知ることはできない。しかし、ブルックの補助定理は、限定的ながらも周辺分布から結合分布を得ることができることを示している。

証明

Part 1. 一変量分布

$\displaystyle p \left( x | y \right) = {{ p \left( x , y \right) } \over { p \left( y \right) }}$ なので $$\begin{align*} p \left( x , y \right) =& p \left( x | y \right) p (y) \\ =& p \left( y | x \right) p (x) \end{align*}$$ から以下を得る。 $${{ p(x) } \over { p(y) }} = {{ p \left( x | y \right) } \over { p \left( y | x \right) }}$$ または $p (x)$ について、以下のように整理できる。 $$p(x) = {{ p \left( x | y \right) } \over { p \left( y | x \right) }} p(y)$$

---

Part 2. 多変量分布 ²

本質的に二変量分布について一度やれば、$n$変量でも同様に繰り返すことができる。 $$\begin{align*} p \left( x_{1} , x_{2} \right) =& p \left( x_{1} | x_{2} \right) p \left( x_{2} \right) \\ =& p \left( x_{1} | x_{2} \right) {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{1} | x_{2} \right) }} p \left( y_{1} \right) \\ =& p \left( x_{1} | x_{2} \right) {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{1} | x_{2} \right) }} {{ p \left( y_{2} | y_{1} \right) } \over { p \left( y_{2} | y_{1} \right) }} p \left( y_{1} \right) \\ =& {{ p \left( x_{1} | x_{2} \right) } \over { p \left( y_{1} | x_{2} \right) }} {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{2} | y_{1} \right) }} p \left( y_{2} | y_{1} \right) p \left( y_{1} \right) \\ =& {{ p \left( x_{1} | x_{2} \right) } \over { p \left( y_{1} | x_{2} \right) }} {{ p \left( x_{2} | y_{1} \right) } \over { p \left( y_{2} | y_{1} \right) }} p \left( y_{1} , y_{2} \right) \\ =& p \left( y_{1} , y_{2} \right) \prod_{k=1}^{2} {{ p \left( x_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) } \over { p \left( y_{k} | x_{1} , \cdots , x_{k-1} , y_{k+1} , \cdots , y_{n} \right) }} \end{align*}$$

■