정밀도 행렬
정의1
일변량분포에서 분산 $\sigma^{2}$의 역수 $\frac{1}{\sigma^{2}}$을 정밀도precision라 한다.
다변량분포에서 공분산행렬 $\Sigma$의 역행렬 $\Lambda := \Sigma^{-1}$을 정밀도 행렬precision matrix이라 한다.
설명
정밀도 행렬은 공분산행렬과 마찬가지로 대칭행렬이다. 정밀도 행렬이 존재하려면 공분산행렬이 가역행렬이어야 하는데, 공분산행렬은 언제나 양의 준정부호행렬이므로 이는 공분산행렬이 양의 정부호행렬이라는 것과 같다.
왜 정밀도라 하는가?
공분산의 역행렬을 왜 정밀도라 부르는지 $1$차원에서의 예시로 알아보자. 정규분포 $N(0, \sigma^{2})$에 대해서 $\sigma^{2}$을 분포의 분산이라 한다. 분산은 데이터가 평균으로부터 얼마나 퍼져 있는지를 나타내는 척도이므로, 분산이 작을수록 데이터가 평균에 가까이 모여 있다는 뜻이다. 따라서 분산의 역수 $\frac{1}{\sigma^{2}}$은 데이터가 평균에 얼마나 가까이 모여 있는지를 나타내는 척도로 이해할 수 있다. 분산이 아주 작은 분포에서는 데이터를 샘플링했을 때 거의 같은 값이 나올 테니 이를 정밀도라고 부를 수 있는 것이다.
위 그림은 분산이 각각 $4$, $1$, $0.05$인 정규분포의 확률밀도함수와, 각 분포에서 뽑은 표본 $60$개를 나란히 그린 것이다. 정밀도 $\frac{1}{\sigma^{2}}$이 클수록 표본들이 평균 $0$ 주위의 좁은 구간에 몰려 있는 것을 볼 수 있다.
이를 $n$차원으로 확장하면, 분산은 공분산행렬 $\Sigma$로 일반화되고, 분산의 역수는 공분산행렬의 역행렬 $\Sigma^{-1}$로 일반화된다.
성질
(a) 정밀도행렬 $\Lambda$는 대칭행렬이고 양의 정부호행렬이다.