전이확률의 극한
정의
현재의 상태가 $i$ 일 때, $k$ 스탭을 거쳐 $j$ 로 갈 전이확률을 $p_{ij}^{(k)}$ 라 할 때, 무한한 스텝 뒤의 전이확률을 다음과 같이 나타낸다. $$ \pi_{j}:= \lim_{n \to \infty} p_{ij}^{ ( n ) } $$
설명
통계학이든 응용수학이든 하는 일이 대개 그렇지만 주된 관심사는 미래의 예측이다. 확률과정론에서 관심을 갖는 부분 역시 한 치 앞은 물론 먼 미래에 어떻게 될지가 궁금하다. 그리고 주로 이런 표현은 무한을 이용한다.
정의에서 $\displaystyle \pi_{j} = \sum_{i} \pi_{i} p_{ij}$ 과 같이 표현할 수 있는데, 이를 행렬로 표현하면 $\pi:= \begin{bmatrix} \pi_{1} & \cdots & \pi_{k} \end{bmatrix}$ 와 $P:= \begin{bmatrix} p_{1j} & \cdots & p_{1j} \\ \vdots & \ddots & \vdots \\ p_{nj} & \cdots & p_{nj} \end{bmatrix}$ 에 대해 $\pi = \pi P$ 와 같이 나타낼 수 있다. 양변에 트랜스포즈를 취하면 $\pi^{T} = P^{T} \pi^{T}$ 을 얻는다.
정리하면 $\left( P^{T} - I \right) \mathbf{x} = 0$ 을 만족하는 $\mathbf{x} : = \pi^{T} = \begin{bmatrix} \pi_{1} \\ \vdots \\ \pi_{n} \end{bmatrix}$ 를 찾는 단순한 연립방정식 문제가 된다. 극한이 존재한다면야 문제는 대개 이런식으로 풀리게 되어있다.
예시
예시로써 다음 확률과정에 대한 극한을 구해보자.
전이 확률 행렬은 $P:= \begin{bmatrix} 3/4 & 1/4 & 0 \\ 1/2 & 0 & 1/2 \\ 0 & 0 & 1 \end{bmatrix}$ 과 같이 나타낼 수 있고, $\left( P^{T} - I \right) \begin{bmatrix} \pi_{A} \\ \pi_{B} \\ \pi_{C} \end{bmatrix} = \mathbb{0}$ 를 풀면 된다.
$\left( P^{T} - I \right) = \begin{bmatrix} -1/4 & 1/2 & 0 \\ 1/4 & -1 & 0 \\ 0 & 1/2 & 0 \end{bmatrix}$ 이므로 연립방정식 $\begin{cases} - 1/4 \pi_{A} + 1/2 \pi_{B} = 0 \\ 1/4 \pi_{A} - \pi_{B} = 0 \\ \pi_{B} = 0 \end{cases}$ 을 얻는다.
연립방정식을 풀면 $\pi_{A} = \pi_{B} = 0$ 인데 $\pi_{A} + \pi_{B} + \pi_{C} = 1$ 이므로 $\pi_{C} = 1$ 까지 얻을 수 있다.
이는 직관과 크게 다르지 않은 결과로써, 시행을 무한히 반복한다면야 결국엔 C에서 끝날것임을 수학적으로 나타낸 것이다.