📂수리통계학

수리통계학에서의 통계량과 추정량

정의 ^{1 2}

1. 확률 변수 $X$ 의 샘플 $X_{1} , \cdots , X_{n}$ 의 함수 $T$ 를 통계량^statistic이라 한다. $$T := T \left( X_{1} , \cdots , X_{n} \right)$$
2. $X$ 의 분포 함수가 $f(x; \theta)$ 혹은 $p(x; \theta)$ 와 같이 나타날 때, $T$ 가 $\theta$ 를 파악하기 위한 통계량이면 $T$ 를 $\theta$ 의 추정량^estimator이라고 한다.
3. 통계량의 확률분포를 샘플링 분포^{sampling distribution}라 한다.

설명

추정량(Estimator)의 실현(Realization)을 추정치^estimate라고 한다. 모수는 보통 스칼라 $\theta \in \mathbb{R}$ 인 경우가 많으며, 이럴 때는 $T$ 를 $\theta$ 의 점추정량^{point estimator}라도 부른다. 예로써 정규분포 $N \left( \mu, \sigma^{2} \right)$ 를 따르는 랜덤샘플이 있다고 할 때, 모평균 $\mu$ 의 추정량은 다음과 같다. $$\overline{X} := {{ 1 } \over { n }} \sum_{k = 1}^{n} X_{k}$$ 실제 데이터 $x_{1} , \cdots , x_{n}$ 이 있다면 $\mu$ 의 추정치는 다음과 같다. $$\overline{x} := {{ 1 } \over { n }} \sum_{k = 1}^{n} x_{k}$$

같이보기

기초통계학에서의 통계량

기초통계학에서는 샘플의 함수라고는 하지 않고 조금 더 직관적으로 ‘계산된 것’이라는 표현을 사용해서 정의했다. 본질적으로 같은 의미겠지만 신입생 내지 수학에 익숙하지 않은 사람에게 더 좋은 정의일 수 있다.

통계량의 예

평균이나 분산 같은 것들을 빼고 이름 자체에 ‘통계량’이 붙어있는 통계량에는 다음과 같은 예가 있다:

• 충분통계량: 분포에서 모수에 대한 모든 정보를 가지는 통계량이다.
  • 최소충분통계량: 충분통계량 중에서 특정한 조건을 만족시키는 통계량이다.
• 보조통계량: 충분통계량이랑 반대로 모수에 대한 어떠한 정보도 가지지 않는 통계량이다.
• 완비통계량: 상식적으로 통계량이라면 이런 성질을 갖고 있어야한다고 할 때, 실제로 그 성질을 갖는 통계량이다.

추정량의 예

추정량에는 다음과 같은 예가 있다:

• 불편추정량: 편의를 가지지 않는 추정량이다.
• 일치추정량: 극한 개념으로 모수를 찍는 추정량이다.
• 최대우도추정량: 우도^likelihood를 극대화하는 추정량이다.
• 효율적추정량: 통계량의 분산과 관계된 추정량이다.