추론통계학

[Inferential Statistics] 바수 정리(Basu theorem)
·
Statistics/Inferential Statistics
보조통계량 (Ancillary Statistic) 통계량의 분포가 모수 θ 에 의존하지 않으면 그 통계량을 보조통계량이라 한다.보조통계량은 단독으로는 θ 에 대한 정보를 가지고 있지 않다. 그러나 다른 통계량과 함께 사용되면 때때로 θ 의 추론을 위한 가치있는 정보를 포함하기도 한다. 바수 정리 (Basu Theorem) X1,X2,⋯,Xn 을 f(x∣θ), θ∈Θ 로부터 구한 확률표본이라 하자. 이때 Y=u(X1,X2,⋯,Xn) 가 θ 에 대한 완비충분통계량이고, Z=v(X1,X2,⋯,Xn) 가..
[Inferential Statistics] 레만-셰페 정리(Lehmann–Scheffé theorem)
·
Statistics/Inferential Statistics
레만-셰페 정리 (Lehmann–Scheffé Theorem) U 가 θ 에 대한 완비충분통계량이라 하자. 만일 U 의 함수 ϕ(U) 가 θ 에 대한 불편추정량이면 ϕ(U) 는 θ 의 유일한 최소분산 불편추정량이다.즉 완비충분통계량 U 의 유일한 비편향 함수 T=ϕ(U) 는 최소분산 불편추정량이다.레만-셰페 정리를 통해 완비충분통계량에 종속된 불편추정량은 유일하다는 것을 알 수 있고, 즉 불편추정량의 유일성을 보장할 수 있고, 이를 통해 더 나은 불편추정량을 찾으려 할 필요가 없다는 것을 알 수 있다.더보기모수 θ 가 존재할 때 U 가 θ 의 충분통계량이..
[Inferential Statistics] 점추정량의 완비성(completeness)
·
Statistics/Inferential Statistics
분포족 (Family of Distributions) 분포모임이라고도 한다. 공통 표본공간 S 상의 확률밀도함수들 또는 확률질량함수들의 색인된 모음 P={f(x∣θ) : θ∈Θ} 를 분포족이라 한다. 이때 Θ 는 모수 공간이다. 완비통계량 (Complete Statistic) 통계량 U 의 확률밀도함수 또는 확률질량함수가 분포족 {f(x∣θ) : θ∈Θ} 에 속한다고 하자. θ 에 무관한 어떤 함수 g 와 모든 θ 에 대해 $ E_..
[Inferential Statistics] 최소분산 불편추정량(MVUE, minimum variance unbiased estimator)
·
Statistics/Inferential Statistics
최소분산 불편추정량 (MVUE) 만일 θ^ 이 θ 에 대한 불편추정량, 즉 E(θ^)=θ 이고, θ^ 의 분산이 θ 에 대한 모든 다른 불편추정량의 분산보다 크지 않다면 θ^ 을 최소분산 불편추정량이라 한다.피셔-네이만 인수분해 정리는 데이터에 포함된 모수 θ 에 대한 정보를 가장 잘 요약하는 통계량, 즉 최소 충분통계량 U 를 찾아주었고, 라오-블랙웰 정리는 기존 추정량보다 더 작은 분산을 갖는 추정량을 찾아주었다.다시 말하면, 라오-블랙웰 정리를 적용하면 평균은 같고, 분산은 더 작은 즉 더 좋은 불편추정량을 얻을 수 있었다. 근데 그..
[Inferential Statistics] 라오-블랙웰 정리(Rao-Blackwell theorem)
·
Statistics/Inferential Statistics
라오-블랙웰 정리 (Rao-Blackwell Theorem) θ^ 을 V(θ^)E(θ^∗)=θ$V(θ^∗)≤V(θ^)더보기U 가 θ 에 대해 충분통계량이므로 U 가 주어진 경우 임의의 통계량의 조건부분포는 θ 에 의존하지 않는다.θ^ 이 θ 의 불편추정량이므로 다음이 성립한다.E(θ^∗)=E[E(θ^∣u)]=E(θ^)=θ따라서 θ^∗ 는 불편추정량이다.$ V..
[Inferential Statistics] 피셔-네이만 인수분해 정리(Fisher–Neyman factorization theorem)
·
Statistics/Inferential Statistics
피셔-네이만 인수분해 정리 (Fisher–Neyman Factorization Theorem) U(X1,X2,⋯,Xn) 를 확률표본 X1,X2,⋯,Xn 에 기반한 통계량이라고 하자. U 가 모수 θ 의 추정을 위한 충분통계량이기 위한 필요충분조건은 L(θ)=L(x1,x2,⋯,xn∣θ) 가 다음과 같이 음이 아닌 두 함수의 곱으로 분해되는 경우이다.L(x1,x2,⋯,xn∣θ)=g(u∣θ)h(x1,x2,⋯,xn)여기서 g(u∣θ) 는 $ u = U(x_1, x..
[Inferential Statistics] 가능도(likelihood)
·
Statistics/Inferential Statistics
가능도 (Likelihood) 우도라도고 한다. 이는 확률분포의 모수가 어떤 확률변수의 표집값과 일관되는 정도를 나타낸다. 구체적으로, 주어진 표집값에 대한 모수의 가능도는 이 모수를 따르는 분포가 주어진 관측값에 대하여 부여하는 확률로 다음과 같이 정의한다.x1,x2,⋯,xn 을 모수 θ 에 종속인 분포를 갖는 확률변수 X1,X2,⋯,Xn 에 대한 관측 표본이라 하자. 그러면 만일 X1,X2,⋯,Xn 이 이산확률변수이면 표본의 가능도 L(x1,x2,⋯,xn∣θ) 는 x1,x2,⋯,xn 의 결합확률로 정의된다. 만일 $ X_1, X_2,..
[Inferential Statistics] 점추정량의 충분성(sufficiency)
·
Statistics/Inferential Statistics
충분통계량 (Sufficient Statistics) 좋은 통계량을 선택할 때 기본적으로 직관에 의존했지만, 예를 들어 μ 와 σ 에 대한 추정량으로 X¯ 와 S 를 사용했지만, 이것만으로는 좋은 통계량을 선택하기 쉽지 않다.통계량을 표본을 통해 만든다면, 실제 표본값이 어떤지는 의미가 없고, 그 통계량이 모수에 대한 정보를 잘 보존하느냐가 중요하고 잘 보존한 통계량이 좋은 통계량일 것이다. 예를 들어서 X¯=5 라면 실제 데이터가 {1,9,5} 인지 혹은 {4,5,6} 인지는 중요하지 않고, 그래서 X¯ 가 μ 에 대한 정보를 잘 보존하느냐가 중요할 것이다. 즉 자료를 잘 압축..
[Inferential Statistics] 점추정량의 일치성(consistency)
·
Statistics/Inferential Statistics
일치추정량 (Consistent Estimator) 일치성은 표본 크기가 증가할수록 점추정량이 모수를 점점 더 정확하게 추정하는 성질을 말한다. 즉 일치추정량은 임의의 ϵ>0 에 대하여 다음 조건을 충족하는 θ 에 대한 추정량 θ^n 을 말한다.limn→∞P(|θ^n−θ|≤ϵ)=1또는 동등하게 아래와 같은 조건을 충족하는 θ 에 대한 추정량 θ^n 을 말한다.$$ \lim_{n \to \infty} P(\lvert \hat{\theta}_n - \theta \rvert > \epsi..
[Inferential Statistics] 점추정량의 효율성(efficiency)
·
Statistics/Inferential Statistics
효율성 (Efficiency) 추정량은 당연하게도 모수를 잘 예측하는가가 중요하다. 따라서 추정량은 불편성, 효율성 등의 특징을 통해 모수를 얼마나 잘 예측하는가를 따져야 한다.불편성은 편향에 대한 것인데, 만약 불편성을 만족하는 두 추정량, 즉 두 불편추정량이 있다면, 어느 추정량을 선택해야 하는가하는 문제가 생길 것이다. 이때 따져봐야 하는 것이 효율성이다.효율성은 추정량의 분산에 관한 것으로 분산이 작을수록 효율적이라 한다. 상대효율 (Relative Efficiency) 목표 모수 θ 에 대한 두 불편추정량 θ^1 과 θ^2, 그리고 각각의 분산 V(θ^1) 및 V(θ^2) ..
애스터로이드
상단으로

티스토리툴바