[Inferential Statistics] 점추정량의 일치성(consistency)

---

일치추정량 (Consistent Estimator)

 

일치성은 표본 크기가 증가할수록 점추정량이 모수를 점점 더 정확하게 추정하는 성질을 말한다. 즉 일치추정량은 임의의 $ \epsilon > 0 $ 에 대하여 다음 조건을 충족하는 $ \theta $ 에 대한 추정량 $ \hat{\theta}_n $ 을 말한다.

$$ \lim_{n \to \infty} P(\lvert \hat{\theta}_n - \theta \rvert \leq \epsilon ) = 1 $$

또는 동등하게 아래와 같은 조건을 충족하는 $ \theta $ 에 대한 추정량 $ \hat{\theta}_n $ 을 말한다.

$$ \lim_{n \to \infty} P(\lvert \hat{\theta}_n - \theta \rvert > \epsilon ) = 0 $$

즉 추정량이 모수로 확률수렴하면 이를 일치추정량이라 한다.

만약 추정량이 불편추정량이라면, 다음을 만족해도 일치추정량이다.

$$ \lim_{n \to \infty} V(\hat{\theta}_n) = 0 $$

 

---

일치성에 대한 추가적 고찰

 

위에서 일치성에 대한 정의를 통해 단일 점 추정량에 대해서는 일치성이 언제 성립하는지를 확인하였다. 그렇다면 $ \mu_1 + \mu_2 $ 와 같은 추정량에서는 일치성 여부를 어떻게 확인해야 하는가를 생각해볼 필요가 있다. 이때 일치성은 확률수렴과 동일했다는 것을 생각해야 한다.

만약 $ \hat{\theta}_n $ 이 $ \theta $ 에 확률수렴하고, $ \hat{\theta}_n^\prime $ 이 $ \theta^\prime $ 에 확률수렴한다면 다음이 성립한다.

• $ \hat{\theta}_n + \hat{\theta}_n^\prime $ 은 $ \theta + \theta^\prime $ 으로 확률수렴한다.
• $ \hat{\theta}_n \times \hat{\theta}_n^\prime $ 은 $ \theta \times \theta^\prime $ 으로 확률수렴한다.
• 만일 $ \theta^\prime \neq 0 $ 이면 $ \hat{\theta}_n / \hat{\theta}_n^\prime $ 은 $ \theta / \theta^\prime $ 으로 확률수렴한다.
• 만일 $ g(\cdot) $ 이 $ \theta $ 에서 연속인 실수값 함수이면 $ g (\hat{\theta}_n) $ 은 $ g (\theta )$ 로 확률수렴한다.

$ n \to \infty$ 일 때 실수열 $ a_n $ 과 $ b_n $ 이 각각 실수 극한값 $ a $ 와 $ b $ 로 수렴하면 $ a_n + b_n \to a + b $ 인 것을 증명하는 것과 유사하게 증명된다.

이를 통해서 $ \mu_1 + \mu_2 $ 와 같은 추정량에서도 일치성을 확인할 수 있다.

한편 일치성을 통해 $ \sigma ^2 $ 을 모르는 대표본 신뢰구간 계산에서 $ \sigma $ 대신 $ S $ 를 사용하는 이론적 근거도 확인할 수 있는데, 슬러츠키 정리(Slutsky's theorem)의 결과로부터 다음이 성립한다.

$U_n $ 이 $ n \to \infty $ 에 따라 표준정규분포로 수렴하는 분포함수를 가진다고 하고, $ W_n $ 이 $ 1 $ 로 확률수렴한다면, $ U_n / W_n $ 의 분포는 표준정규분포로 수렴한다.

즉 중심극한정리에 따라 대표본이면 모집단의 분포와 관계없이 $ \dfrac{\bar{X}-\mu}{\sigma / \sqrt{n}} $ 는 표준정규분포로 확률수렴하고, $ \dfrac{S_n}{\sigma} $ 는 $ 1 $ 로 확률수렴하므로 $ \dfrac{\bar{X}-\mu}{\sigma / \sqrt{n}} \cdot \dfrac{S_n}{\sigma} = \dfrac{\bar{X}-\mu}{S_n/ \sqrt{n}} $ 가 표준정규분포로 확률수렴한다는 것을 알 수 있다.