logo

測度論によって定義される分布の収束 📂確率論

測度論によって定義される分布の収束

定義

距離空間 SS の ボレルシグマ場 S:=B(S)\mathcal{S}:= \mathcal{B}(S) に関して 可測空間 (S,S)(S,\mathcal{S}) を定義しよう。

確率空間 (Ω,F,P)(\Omega, \mathcal{F}, P) で定義された 確率変数 XX と 確率過程 {Xn}n∈N\left\{ X_{n} \right\}_{n \in \mathbb{N}} が n→∞n \to \infty のとき、すべての f∈Cb(S)f \in C_{b}(S) に対して以下を満たす場合、XX は分布収束するconverge in distributionと言い、Xn→DXX_{n} \overset{D}{\to} X と示される。 ∫Ωf(Xn)dP→∫Ωf(X)dP \int_{\Omega} f(X_{n}) dP \to \int_{\Omega} f(X) dP

  • Cb(S)C_{b}(S) は、SS で定義される有界連続関数の集合を表す。 Cb(S):={f:S→R∣f is bounded and continuous} C_{b}(S) := \left\{ f:S \to \mathbb{R} \mid f\text{ is bounded and continuous} \right\}

定理

  • [1]: (S,S)(S,\mathcal{S}) で定義された 確率測度の 列 {Pn}n∈N\left\{ P_{n} \right\}_{n \in \mathbb{N}} がすべての ボレル集合 B∈B(R)B \in \mathcal{B} \left( \mathbb{R} \right) に対して Pn(X−1(B)):=P(Xn−1(B)) P_{n} \left( X^{-1} (B) \right) := P \left( X_{n}^{-1} (B) \right) を満たすように定義されている場合、次のことが成立する。 Xn→DX  ⟺  Pn→WP X_{n} \overset{D}{\to} X \iff P_{n} \overset{W}{\to} P
  • 2: Xn→DXX_{n} \overset{D}{\to} X と、すべての {Xn}\left\{ X_{n} \right\} のサブシーケンス {Xn′}⊂{Xn}\left\{ X_{n '} \right\} \subset \left\{ X_{n} \right\} が Xn′′→DXX_{n ''} \overset{D}{\to} X を満たす {Xn′}\left\{ X_{n '} \right\} のサブシーケンス {Xn′′}⊂{Xn′}\left\{ X_{n ''} \right\} \subset \left\{ X_{n '} \right\} を持つことは同値である。数式で再び書くと、次のようになる。 Xn→DX  ⟺  ∀{Xn′}⊂{Xn},∃{Xn′′}⊂{Xn′}:Xn′′→DX X_{n} \overset{D}{\to} X \iff \forall \left\{ X_{n '} \right\} \subset \left\{ X_{n} \right\}, \exists \left\{ X_{n ''} \right\} \subset \left\{ X_{n '} \right\} : X_{n ''} \overset{D}{\to} X
  • [3] 連続写像定理: 可測関数 h:(S,S)→(S′,S′)h : (S , \mathcal{S}) \to (S ' , \mathcal{S} ') について、hh が連続である点の集合 ChC_{h}、言い換えると Ch:={x∈S:h is continuous at x}C_{h} : = \left\{ x \in S : h \text{ is continuous at } x \right\} を定義しよう。もしXn→DXX_{n} \overset{D}{\to} X かつ P(X∈Ch)=1P(X \in C_{h}) = 1 なら h(Xn)→Dh(X)h(X_{n}) \overset{D}{\to} h(X) である。数式で示すと、次のようになる。 Xn→DX∧P(X∈Ch)=1  ⟹  h(Xn)→Dh(X) X_{n} \overset{D}{\to} X \land P(X \in C_{h}) = 1 \implies h(X_{n}) \overset{D}{\to} h(X)

説明

  • [1]: 定理で紹介したように、このように定義された PnP_{n} は誘導された確率測度induced Probability measureと呼ばれる。確率 ‘変数’の収束と、Pn→WPP_{n} \overset{W}{\to} P すなわち確率 ‘測度’の収束と区別されることが重要である。
  • [3]: 連続写像定理は、実際には確率収束やほぼ確実に収束に対しても一般化可能である。hh も関数であり、確率変数も関数である点から、合成関数 h∘Xh \circ X の使用が自然に考えられるべきである。A∈S′A \in \mathcal{S} ' に対して、次の式が意味を成すかどうかを考え、納得する過程が必要である。 P(h(X)−1(A))=P(X∈h−1(A)) P \left( h(X)^{-1} (A) \right) = P \left( X \in h^{-1}(A) \right) すべての f∈Cb(S)f \in C_{b}(S) において分布が同じであるという表記は =D\overset{D}{=} を使うこともある。その定義は、すべての A∈S′A \in \mathcal{S} ' と連続関数 h:S→S′h:S \to S' に対して次のようである。 h(X)=Dh(Y)  ⟺  defP(h(X)−1(A))=P(h(Y)−1(A)) h(X) \overset{D}{=} h(Y) \overset{\text{def}}{\iff} P \left( h(X)^{-1}(A) \right) = P \left( h(Y)^{-1}(A) \right) 再び収束の表現を考えると、次のようになる。 h(Xn)→Dh(X)  ⟺  P(h(Xn)−1(A))→P(h(X)−1(A)) h\left( X_{n} \right) \overset{D}{\to} h(X) \iff P \left( h\left( X_{n} \right)^{-1}(A) \right) \to P \left( h(X)^{-1}(A) \right)

証明

[1]

すべての f∈Cb(S)f \in C_{b}(S) に対して Pn→WP  ⟺  ∫SfdPn→∫SfdP  ⟺  ∫Ωf(Xn)dP→∫Ωf(X)dP  ⟺  Xn→DX \begin{align*} P_{n} \overset{W}{\to} P \iff & \int_{S} f dP_{n} \to \int_{S} f dP \\ \iff & \int_{\Omega} f(X_{n}) dP \to \int_{\Omega} f(X) dP \\ \iff & X_{n} \overset{D}{\to} X \end{align*}

■

2

(  ⟹  )(\implies) Xn→DXX_{n} \overset{D}{\to} X が成立しない場合 ∫Ωf(Xn)dP→∫Ωf(X)dP \int_{\Omega} f(X_{n}) dP \to \int_{\Omega} f(X) dP f∈Cb(S)f \in C_{b}(S) が存在すると仮定する。つまり、 ∣∫Ωf(Xn′)dP−∫Ωf(X)dP∣>ε \left| \int_{\Omega} f(X_{n '}) dP - \int_{\Omega} f(X) dP \right| > \varepsilon を満たす ε>0\varepsilon > 0 とサブシーケンスのインデックス {n′}\left\{ n' \right\} が存在すると仮定するのだ。しかし、これは ∫Ωf(Xn′′)dP→∫Ωf(X)dP \int_{\Omega} f(X_{n ''}) dP \to \int_{\Omega} f(X) dP を満たすサブシーケンスのインデックスのサブシーケンス {n′′}\left\{ n'' \right\} が常に存在するため矛盾である。

(  ⟸  )(\impliedby) {n′′}={n}\left\{ n'' \right\} = \left\{ n \right\} とすると、自明に成立する。

■

[3]

PXP_{X} を XX から誘導された確率測度、すなわち PX(A):=P(X−1(A))=P(X∈A)P_{X}(A) := P \left( X^{-1}(A) \right) = P(X \in A) としよう。 h−1(B)‾⊂h−1(B)∪Chc \overline{h^{-1}(B)} \subset h^{-1}(B) \cup C_{h}^{c} S′S' のすべての閉集合 BB に対して、上記の包含関係が成立する。任意の x∈h−1(B)‾x \in \overline{h^{-1}(B)} を考えると、hh が連続部分に対して閉包を保持して h−1(B)h^{-1}(B) を含み、連続でない部分の逆像は ChcC_{h}^{c} を含むからである。閉包 h−1(B)‾\overline{h^{-1}(B)} は SS で閉集合であるので lim sup⁡n→∞P(h(Xn)∈B)=lim sup⁡n→∞P(Xn∈h−1(B))=lim sup⁡n→∞PX(h(Xn)−1(B))=lim sup⁡n→∞PX([Xn−1∘h−1](B))=lim sup⁡n→∞PX(Xn−1(h−1(B)))=lim sup⁡n→∞Pn(h−1(B))≤lim sup⁡n→∞Pn(h−1(B)‾) \begin{align*} & \limsup_{n \to \infty} P \left( h ( X_{n} ) \in B \right) \\ =& \limsup_{n \to \infty} P \left( X_{n} \in h^{-1} (B) \right) \\ =& \limsup_{n \to \infty} P_{X} \left( h ( X_{n} )^{-1}(B) \right) \\ =& \limsup_{n \to \infty} P_{X} \left( \left[ X_{n}^{-1} \circ h^{-1} \right] (B) \right) \\ =& \limsup_{n \to \infty} P_{X} \left( X_{n}^{-1} \left( h^{-1} (B) \right) \right) \\ =& \limsup_{n \to \infty} P_{n} \left( h^{-1} (B)\right) \\ \le & \limsup_{n \to \infty} P_{n} \left( \overline{h^{-1} (B)} \right) \end{align*}

ポートマントー定理: 空間 SS が 距離空間 (S,ρ)( S , \rho) でありながら 可測空間 (S,B(S))(S,\mathcal{B}(S)) でもあるとしよう。次のすべては同値である。

  • (1): Pn→WPP_{n} \overset{W}{\to} P
  • (2): すべての有界な、一様連続関数 ff に対して ∫SfdPn→∫SfdP\displaystyle \int_{S} f dP_{n} \to \int_{S}f d P
  • (3): すべての閉集合 FF に対して lim sup⁡n→∞Pn(F)≤P(F)\displaystyle \limsup_{n\to\infty} P_{n}(F) \le P(F)
  • (4): すべての開集合 GG に対して P(G)≤lim inf⁡n→∞Pn(G)\displaystyle P(G) \le \liminf_{n\to\infty} P_{n}(G)
  • (5): P(∂A)=0P(\partial A) = 0 であるすべての AA に対して lim⁡n→∞Pn(A)=P(A)\displaystyle \lim_{n\to\infty} P_{n}(A) = P(A)

[1]に従って Xn→DXX_{n} \overset{D}{\to} X であれば Pn→WPXP_{n} \overset{W}{\to} P_{X} であり、ポートマントー定理の (1)  ⟹  (3)(1) \implies (3) と仮定 PX(X∈Chc)=0P_{X}(X \in C_{h}^{c}) = 0 によって lim sup⁡n→∞PX(h(Xn)−1(B))≤lim sup⁡n→∞Pn(h−1(B)‾)≤PX(h−1(B)‾)≤PX(h−1(B)∪Chc)≤PX(h−1(B))+PX(Chc)≤PX(h−1(B))≤PX(X−1(h−1(B)))≤PX((h(X))−1(B)) \begin{align*} \limsup_{n \to \infty} P_{X} \left( h ( X_{n} )^{-1}(B) \right) \le & \limsup_{n \to \infty} P_{n} \left( \overline{h^{-1} (B)} \right) \\ \le & P_{X} \left( \overline{h^{-1} (B)} \right) \\ \le & P_{X} \left( h^{-1} (B) \cup C_{h}^{c} \right) \\ \le & P _{X}\left( h^{-1} (B) \right) + P_{X} \left( C_{h}^{c} \right) \\ \le & P_{X} \left( h^{-1} (B) \right) \\ \le & P_{X} \left( X^{-1} \left( h^{-1} (B) \right) \right) \\ \le & P_{X} \left( \left( h(X) \right)^{-1} (B) \right) \end{align*} 同じ方法で PX((h(X))−1(B))≤lim inf⁡n→∞PX(h(Xn)−1(B))\displaystyle P_{X} \left( \left( h(X) \right)^{-1} (B) \right) \le \liminf_{n \to \infty} P_{X} \left( h ( X_{n} )^{-1}(B) \right) を示せば lim⁡n→∞PX(h(Xn)−1(B))=PX((h(X))−1(B)) \lim_{n \to \infty} P_{X} \left( h ( X_{n} )^{-1}(B) \right) = P_{X} \left( \left( h(X) \right)^{-1} (B) \right)

■

参考文献

更新情報

  • 2023年8月19日、リュデシクによる、定理 [1] ステートメントの誤字修正(Pn(A):=P(Xn−1(A))P_{n} (A) := P \left( X_{n}^{-1} (A)\right) → Pn(X−1(B)):=P(Xn−1(B))P_{n} \left( X^{-1} (B) \right) := P \left( X_{n}^{-1} (B)\right))