logo

마틴게일의 부등식들 📂확률론

마틴게일의 부등식들

정리

{(Xn,Fn)}\left\{ (X_{n} , \mathcal{F}_{n}) \right\} 이 슈퍼 마틴게일이라고 하자.

  • [1]: 모든 λ>0\lambda > 0 에 대해 λP(max⁡n≤NXn≥λ)≤EX1−∫(max⁡n≤NXn<λ)XNdP≤EX1+EXN− a.s. \begin{align*} \lambda P \left( \max_{n \le N} X_{n} \ge \lambda \right) \le & E X_{1} - \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N} dP \\ \le & E X_{1} + E X_{N}^{-} \text{ a.s.} \end{align*}
  • [2]: 모든 λ>0\lambda > 0 에 대해 λP(min⁡n≤NXn≤−λ)≤−∫(min⁡n≤NXn≤−λ)XNdP≤EXN− a.s. \begin{align*} \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right) \le & - \int_{(\min_{n \le N} X_{n} \le - \lambda)} X_{N} dP \\ \le & E X_{N}^{-} \text{ a.s.} \end{align*}

{(Xn,Fn)}\left\{ (X_{n} , \mathcal{F}_{n}) \right\} 이 서브 마틴게일이라고 하자.

  • [3]: 모든 λ>0\lambda > 0 에 대해 λP(max⁡n≤NXn≥λ)≤∫(max⁡n≤NXn≥λ)XNdP≤E∣XN∣ a.s. \begin{align*} \lambda P \left( \max_{n \le N} X_{n} \ge \lambda \right) \le & \int_{(\max_{n \le N} X_{n} \ge \lambda)} X_{N} dP \\ \le & E \left| X_{N} \right| \text{ a.s.} \end{align*}
  • [4]: 모든 λ>0\lambda > 0 에 대해 λP(min⁡n≤NXn≤−λ)≤EXn+−EX1 a.s. \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right) \le E X_{n}^{+} - E X_{1} \text{ a.s.}

{(Xn,Fn)}\left\{ (X_{n} , \mathcal{F}_{n}) \right\} 이 마틴게일이라고 하자.

  • [5]: 모든 λ>0\lambda > 0 에 대해 P(max⁡n≤N∣Xn∣≥λ)≤1λpE∣XN∣p a.s. P \left( \max_{n \le N} | X_{n} | \ge \lambda \right) \le {{1} \over {\lambda^{p}}} E |X_{N}|^{p} \text{ a.s.}

설명

여기서 소개된 부등식들은 [5]와 비슷하게 양변을 λ\lambda 로 나눠 확률의 바운드를 특정하는데에 유용하게 쓰일 수 있다. 특히 마틴게일은 슈퍼 마틴게일인 동시에 서브 마틴게일이므로 위의 모든 부등식을 사용할 수 있다.

  • [3]: 우리는 이미 마코프 부등식에 따라 P(max⁡n≤NXn≥λ)≤1λE∣max⁡n≤NXn∣\displaystyle P(\max_{n \le N} X_{n} \ge \lambda ) \le {{ 1 } \over { \lambda }} E \left| \max_{n \le N} X_{n} \right| 을 알고 있으나, 서브 마틴게일이라는 조건―정보가 추가됨으로써 P(max⁡n≤NXn≥λ)≤1λE∣XN∣\displaystyle P(\max_{n \le N} X_{n} \ge \lambda ) \le {{ 1 } \over { \lambda }} E \left| X_{N} \right| 과 같이 NN 만을 보고 바운드를 더 줄인 것으로 볼 수 있다.
  • [4]: 서브 마틴게일-슈퍼 마틴게일이라는 조건의 대비와 함께 [1]과 짝을 이룬다고 볼 수 있다.
  • [5]: 이 수식은 일반화된 마코프 부등식 P(∣X∣p≥Cp)≤1CpE∣X∣p\displaystyle P(|X|^{p} \ge C^{p}) \le {{ 1 } \over { C^{p} }} E | X |^{p} 와 마찬가지로 λ>1\lambda>1 이 주어져있을 때 pp 를 키울수록 확률의 바운드를 줄일 수 있으나, 그 이전에 XNX_{N} 의 pp차 모멘트가 존재해야함을 명심해야한다.

증명

전략[1], [2]: 바운디드 NN 을 생각하므로 다음의 정리를 사용해 부등식에서 출발한다.

선택적 샘플링 정리: {(Xn,Fn)}\left\{ ( X_{n} , \mathcal{F}_{n} ) \right\} 이 슈퍼 마틴게일이고 τ\tau 와 σ\sigma 가 σ≤τ\sigma \le \tau 면서 Fn\mathcal{F}_{n} 에 대해 바운디드 정지 시간이라고하면 E(Xτ∣Fσ)≤Xσ a.s. E \left( X_{\tau} | \mathcal{F}_{\sigma} \right) \le X_{\sigma} \text{ a.s.}

증명 과정에서 정의되는 TT 는 XnX_{n} 이 처음으로 λ\lambda 를 넘어가는 순간으로써, 그 횟수가 NN 을 넘어가면 포기하고 그냥 NN 을 취하는 것으로 볼 수 있다. 이것을 잘 이해하는 것이 관건으로, 이를 기준으로 삼아 적분 영역을 쪼개는 트릭을 사용한다.

[1]

Part 1. 정지 시간 TT 의 정의

확률 변수 T:={inf⁡{n≤N:Xn≥λ},n<NN,otherwise T:= \begin{cases} \inf \left\{ n \le N: X_{n} \ge \lambda \right\} &, n < N \\ N &, \text{otherwise} \end{cases} 를 정의하자. 이제 모든 k∈Nk \in \mathbb{N} 에 대해 (T=k)∈Fk(T = k) \in \mathcal{F}_{k} 인지 확인해서 TT 가 정지 시간임을 보이자. 우선 k=n<Nk = n < N 에 대해서는 (T=n)=(X1<λ,⋯ ,Xn−1<λ,Xn≥λ)∈Fn (T = n) = \left( X_{1} < \lambda , \cdots , X_{n-1} < \lambda, X_{n} \ge \lambda \right) \in \mathcal{F}_{n} 이고, k=Nk = N 에 대해서는 k=N−1k = N-1 번째까지만 Xk<λX_{k} < \lambda 인지 확인하면 되므로 (T=N)=(X1<λ,⋯ ,Xn−1<λ)∈FN−1⊂FN (T = N) = \left( X_{1} < \lambda , \cdots , X_{n-1} < \lambda \right) \in \mathcal{F}_{N-1} \subset \mathcal{F}_{N}

Part 2.

선택적 샘플링 정리에 따라 거의 확실히 E(XT∣F1)≤X1E \left( X_{T} | \mathcal{F}_{1} \right) \le X_{1} 이므로 ∫ΩX1dP≥∫ΩE(XT∣F1)dP=∫ΩXTdP=∫(max⁡n≤NXn≥λ)XTdP+∫(max⁡n≤NXn<λ)XTdP a.s. \begin{align*} \int_{\Omega} X_{1} dP \ge& \int_{\Omega} E \left( X_{T} | \mathcal{F}_{1} \right) dP \\ =& \int_{\Omega} X_{T} dP \\ =& \int_{(\max_{n \le N} X_{n} \ge \lambda)} X_{T} dP + \int_{(\max_{n \le N} X_{n} < \lambda)} X_{T} dP\text{ a.s.} \end{align*} 위의 전개에서 가장 마지막 줄은 적분 영역을 (max⁡n≤NXn≥λ)(\max_{n \le N} X_{n} \ge \lambda) 와 (max⁡n≤NXn<λ)(\max_{n \le N} X_{n} < \lambda) 로 나눈 것이다. 그러면 TT 의 정의에 따라 (max⁡n≤NXn≥λ)(\max_{n \le N} X_{n} \ge \lambda) 상에서는 XT≥λX_{T} \ge \lambda 이고 (max⁡n≤NXn<λ)(\max_{n \le N} X_{n} < \lambda) 상에서는 XT=XNX_{T} = X_{N} 이므로 ∫ΩX1dP≥∫(max⁡n≤NXn≥λ)XTdP+∫(max⁡n≤NXn<λ)XTdP=∫(max⁡n≤NXn≥λ)λdP+∫(max⁡n≤NXn<λ)XNdP=λP(max⁡n≤NXn≥λ)+∫(max⁡n≤NXn<λ)XNdP a.s. \begin{align*} \int_{\Omega} X_{1} dP \ge& \int_{(\max_{n \le N} X_{n} \ge \lambda)} X_{T} dP + \int_{(\max_{n \le N} X_{n} < \lambda)} X_{T} dP \\ =& \int_{(\max_{n \le N} X_{n} \ge \lambda)} \lambda dP + \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N} dP \\ =& \lambda P \left( \max_{n \le N} X_{n} \ge \lambda \right) + \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N} dP \text{ a.s.} \end{align*}

Part 3.

항을 정리하면 λP(max⁡n≤NXn≥λ)≤∫ΩX1dP−∫(max⁡n≤NXn<λ)XNdP=EX1−∫(max⁡n≤NXn<λ)XN+dP+∫(max⁡n≤NXn<λ)XN−dP a.s. \begin{align*} \lambda P \left( \max_{n \le N} X_{n} \ge \lambda \right) \le & & \int_{\Omega} X_{1} dP - \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N} dP \\ =& E X_{1} - \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N}^{+} dP + \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N}^{-} dP \text{ a.s.} \end{align*} 여기서 XN+≥0X_{N}^{+} \ge 0 이므로 −∫(max⁡n≤NXn<λ)XN+dP\displaystyle - \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N}^{+} dP 는 탈락시키고 ∫(max⁡n≤NXn<λ)XN−dP≤∫ΩXN−dP=EXN− \int_{(\max_{n \le N} X_{n} < \lambda)} X_{N}^{-} dP \le \int_{\Omega} X_{N}^{-} dP = E X_{N}^{-} 이므로 λP(max⁡n≤NXn≥λ)≤EX1+EXN− a.s. \lambda P \left( \max_{n \le N} X_{n} \ge \lambda \right) \le E X_{1} + E X_{N}^{-} \text{ a.s.}

■

[2]

Part 1. 정지 시간 TT 의 정의

확률 변수 T:={inf⁡{n≤N:Xn≤−λ},n<NN,otherwise T:= \begin{cases} \inf \left\{ n \le N: X_{n} \le - \lambda \right\} &, n < N \\ N &, \text{otherwise} \end{cases} 를 정의하자. 이제 모든 k∈Nk \in \mathbb{N} 에 대해 (T=k)∈Fk(T = k) \in \mathcal{F}_{k} 인지 확인해서 TT 가 정지 시간임을 보이자. 우선 k=n<Nk = n < N 에 대해서는 (T=n)=(X1>−λ,⋯ ,Xn−1>−λ,Xn≤−λ)∈Fn (T = n) = \left( X_{1} > - \lambda , \cdots , X_{n-1} > - \lambda, X_{n} \le - \lambda \right) \in \mathcal{F}_{n} 이고, k=Nk = N 에 대해서는 k=N−1k = N-1 번째까지만 Xk>−λX_{k} > - \lambda 인지 확인하면 되므로 (T=N)=(X1>−λ,⋯ ,Xn−1>−λ)∈FN−1⊂FN (T = N) = \left( X_{1} > - \lambda , \cdots , X_{n-1} > - \lambda \right) \in \mathcal{F}_{N-1} \subset \mathcal{F}_{N} 이고, T≤NT \le N 이다.

Part 2.

조건부 기대값의 성질: 모든 시그마 필드 G\mathcal{G} 에 대해 E[E(X∣G)]=E(X)E \left[ E ( X | \mathcal{G} ) \right] = E(X)

선택적 샘플링 정리에 따라 거의 확실히 E(XN∣FT)≤XnE \left( X_{N} | \mathcal{F}_{T} \right) \le X_{n} 이고, 양변에 기대값 EE 를 취하면 증명 [1]의 Part 2.와 비슷하게 EXN≤EXT=∫ΩXTdP=∫(min⁡n≤NXn≤−λ)XTdP+∫(min⁡n≤NXn>−λ)XTdP≤−λP(min⁡n≤NXn≤−λ)+∫(min⁡n≤NXn>−λ)XNdP \begin{align*} E X_{N} \le & E X_{T} \\ =& \int_{\Omega} X_{T} dP \\ =& \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{T} dP + \int_{(\min_{n \le N} X_{n} > - \lambda )} X_{T} dP \\ \le & - \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right)+ \int_{(\min_{n \le N} X_{n} > - \lambda )} X_{N} dP \end{align*} 그런데 EXN=∫(min⁡n≤NXn≤−λ)XNdP+∫(min⁡n≤NXn>−λ)XNdP\displaystyle E X_{N} = \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N} dP + \int_{(\min_{n \le N} X_{n} > - \lambda )} X_{N} dP 이므로 ∫(min⁡n≤NXn≤−λ)XNdP+∫(min⁡n≤NXn>−λ)XNdP≤−λP(min⁡n≤NXn≤−λ)+∫(min⁡n≤NXn>−λ)XNdP \begin{align*} & \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N} dP + \int_{(\min_{n \le N} X_{n} > - \lambda )} X_{N} dP \\ \le & - \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right)+ \int_{(\min_{n \le N} X_{n} > - \lambda )} X_{N} dP \end{align*} 양변에서 ∫(min⁡n≤NXn>−λ)XNdP\displaystyle \int_{(\min_{n \le N} X_{n} > - \lambda )} X_{N} dP 을 소거시키면 ∫(min⁡n≤NXn≤−λ)XNdP≤−λP(min⁡n≤NXn≤−λ) \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N} dP \le - \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right)

Part 3.

부호를 반전시키면 λP(min⁡n≤NXn≤−λ)≤−∫(min⁡n≤NXn≤−λ)XNdP=−∫(min⁡n≤NXn≤−λ)XN+dP+∫(min⁡n≤NXn≤−λ)XN−dP \begin{align*} \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right) \le & - \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N} dP \\ =& - \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N}^{+} dP + \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N}^{-} dP \end{align*} 역시 증명 [1]의 Part 3과 비슷하게 XN+≥0X_{N}^{+} \ge 0 이므로 −∫(min⁡n≤NXn≤−λ)XN+dP\displaystyle - \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N}^{+} dP 는 탈락시키고 ∫(min⁡n≤NXn≤−λ)XN−dP≤∫ΩXN−dP=EXN− \int_{(\min_{n \le N} X_{n} \le - \lambda )} X_{N}^{-} dP \le \int_{\Omega} X_{N}^{-} dP = E X_{N}^{-} 이므로 λP(min⁡n≤NXn≤−λ)≤EXN− a.s. \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right) \le E X_{N}^{-} \text{ a.s.}

■

[3]

λP(max⁡n≤NXn≥λ)=λP(−max⁡n≤NXn≤−λ)=λP(min⁡n≤N(−Xn)≤−λ) \begin{align*} \lambda P \left( \max_{n \le N} X_{n} \ge \lambda \right) =& \lambda P \left( - \max_{n \le N} X_{n} \le - \lambda \right) \\ =& \lambda P \left( \min_{n \le N} (-X_{n}) \le - \lambda \right) \end{align*} {(−Xn,Fn)}\left\{ \left( -X_{n} , \mathcal{F}_{n} \right) \right\} 은 슈퍼 마틴게일이므로 [2]에 따라 λP(min⁡n≤N(−Xn)≤−λ)≤−∫(min⁡n≤NXn≤−λ)(−XN)dP≤∫(max⁡n≤NXn≥λ)XNdP≤∫(XN≥0)XNdP≤EXN+≤E∣XN∣ a.s. \begin{align*} \lambda P \left( \min_{n \le N} (-X_{n}) \le - \lambda \right) \le & - \int_{(\min_{n \le N} X_{n} \le - \lambda)} (-X_{N}) dP \\ \le & \int_{(\max_{n \le N} X_{n} \ge \lambda)} X_{N} dP \\ \le & \int_{(X_{N} \ge 0)} X_{N} dP \\ \le & E X_{N}^{+} \\ \le & E \left| X_{N} \right| \text{ a.s.} \end{align*}

■

[4]

{(−Xn,Fn)}\left\{ \left( -X_{n} , \mathcal{F}_{n} \right) \right\} 은 슈퍼 마틴게일이므로 [1]에 따라 λP(min⁡n≤NXn≤−λ)=λP(max⁡n≤N(−Xn)≥λ)≤E(−X1)+E(−XN)−=E(−XN)−−EX1=E(−XN++XN−)−−EX1=E(XN)+−EX1 a.s. \begin{align*} \lambda P \left( \min_{n \le N} X_{n} \le - \lambda \right) =& \lambda P \left( \max_{n \le N} \left( -X_{n} \right) \ge \lambda \right) \\ \le & E \left( -X_{1} \right) + E \left( -X_{N} \right)^{-} \\ =& E \left( -X_{N} \right)^{-} - E X_{1} \\ =& E \left( -X_{N}^{+} + X_{N}^{-} \right)^{-} - E X_{1} \\ =& E \left( X_{N} \right)^{+} - E X_{1} \text{ a.s.} \end{align*}

■

[5]

조건부 옌센 부등식의 따름 정리에 따라 {(∣Xn∣p,Fn)}\left\{ \left( |X_{n}|^{p} , \mathcal{F}_{n} \right) \right\} 는 서브 마틴게일이므로 [3]에 따라 λpP(max⁡n≤N∣Xn∣p≥λp)≤E∣XN∣p a.s.  ⟺  P(max⁡n≤N∣Xn∣p≥λp)≤1λpE∣XN∣p a.s.  ⟺  P(max⁡n≤N∣Xn∣≥λ)≤1λpE∣XN∣p a.s. \begin{align*} & \lambda^{p} P \left( \max_{n \le N} | X_{n} |^{p} \ge \lambda^{p} \right) \le E \left| X_{N} \right|^{p} \text{ a.s.} \\ \iff & P \left( \max_{n \le N} | X_{n} |^{p} \ge \lambda^{p} \right) \le {{ 1 } \over { \lambda^{p} }} E \left| X_{N} \right|^{p} \text{ a.s.} \\ \iff & P \left( \max_{n \le N} | X_{n} | \ge \lambda \right) \le {{ 1 } \over { \lambda^{p} }} E \left| X_{N} \right|^{p} \text{ a.s.} \end{align*}

■