[Inferential Statistics] 레만-셰페 정리(Lehmann–Scheffé theorem)

---

레만-셰페 정리 (Lehmann–Scheffé Theorem)

 

$ U $ 가 $ \theta $ 에 대한 완비충분통계량이라 하자. 만일 $ U $ 의 함수 $ \phi (U) $ 가 $ \theta $ 에 대한 불편추정량이면 $ \phi (U) $ 는 $ \theta $ 의 유일한 최소분산 불편추정량이다.

즉 완비충분통계량 $ U $ 의 유일한 비편향 함수 $ T = \phi(U) $ 는 최소분산 불편추정량이다.

레만-셰페 정리를 통해 완비충분통계량에 종속된 불편추정량은 유일하다는 것을 알 수 있고, 즉 불편추정랴의 유일성을 보장하고, 이를 통해 더 나은 불편추정량을 찾으려 할 필요가 없다는 것을 알 수 있다.

모수 $\theta $ 가 존재할 때 $ U $ 가 $ \theta $ 의 충분통계량이고, 어떤 함수 $ g(\theta) $ 를 추정하고 싶을 때 그 불편추정량을 $ X$ 라 하자. 즉 다음이 성립한다고 하자.

$ E_\theta (X) = g(\theta) $ 

라오-블랙웰 정리에 따라 $ \phi(U) = E(X \mid U) $ 라 정의하면 모든 $ \theta $ 에 대해 다음이 성립한다.

$ E_\theta[\phi(U)] = g(\theta), \qquad V_\theta[\phi(U)] \leq V_\theta[X] $

즉 $ \phi(U) $ 는 $ X $ 보다 분산이 더 작거나 같은 더 좋은 불편추정량이다. 게다가 $ U $ 가 완비성을 갖춘다면 $ g(\theta) $ 에 대한 다른 불편추정량 $ X^\prime $ 이 있더라도 $ \psi(U) = E[X^\prime \mid U] $ 로 두었을 때 다음과 같다.

$ E_\theta[\phi(U)-\psi(U)]  = 0 \quad \Longrightarrow \quad P_\theta(\phi(U) = \psi(U)) = 1 $

즉 완비성 때문에 $ \phi(U) $ 와 $ \psi(U) $ 는 동일한 추정량이 되므로 $ \phi(U) $ 가 $ g(\theta ) $ 에 대한 유일한 최소분산 불편추정량이 된다.