확률론

지수분포 (Exponential Distribution) 확률변수 $ X $ 가 지수분포를 따른다는 말은 형상모수가 1 인 감마분포를 따른다는 말과 같다. 또한 사건이 독립적일 때 다음 사건이 일어날 때까지의 대기 시간은 지수분포를 따른다.확률변수 $ X $ 가 대기 시간이 $ \beta $ 인 지수분포를 따른다면 다음과 같이 나타낸다.$$ X \sim \text{Expo}(\beta) $$푸아송분포에서 관심을 가진 것이 명시된 영역에서 특정 사건이 평균적으로 발생하는 사건이 $ \lambda $ 일 때 특정 사건이 $ x $ 번 발생할 확률이었다면, 지수분포는 다음 사건까지의 평균적인 대기 시간이 $ \beta $ 일 때의 확률에 관심을 가지는 것이다. 기하분포와 비교하면 기하분포는 첫번째 성공까지의 ..

감마분포 (Gamma Distribution) 어떤 확률변수들은 항상 음이 아니고, 여러 이유에서 분포가 비대칭이다. 대표적으로 감마분포가 그러하다.확률변수 $ X $ 의 밀도함수가 $ \alpha > 0 $ 와 $ \beta > 0 $ 에 대해 다음과 같다면 확률변수 $ X $ 가 감마분포를 따른다고 한다.$$ f(x) = \dfrac{x^{\alpha - 1}e^{-x / \beta}}{\beta^\alpha \Gamma(\alpha)} \qquad 0 \leq x 더보기감마함수 $ \Gamma $ 는 다음과 같이 정의된다.$ \Gamma(\alpha) = \int_0^\infty t^{\alpha - 1} e^{-t} dt $또한 만약 $ \alpha $ 가 양의 정수라면 다음과 같다.$ \Gamm..

확률값 계산 $ P (a \leq X \leq b ) $ 의 값을 구하기 위해 먼저 $ X $ 를 표준화하고 그 후에 확률을 계산하면 다음과 같이 나타낼 수 있다. 이때 $ \varphi $ 는 표준정규분포의 확률밀도함수이다.$$ P(a \leq X \leq b) = P\left( \dfrac{a-\mu}{\sigma} \leq \dfrac{X-\mu}{\sigma} \leq \dfrac{b-\mu}{\sigma} \right) $$$$ = P(z_a \leq Z \leq z_b) $$$$ = \int_{-\infty}^{z_b} \varphi(t) dt - \int_{-\infty}^{z_a} \varphi(t) dt $$$$ = \Phi(z_b) - \Phi(z_a) $$또한 확률밀도함수의 정의를 생..

정규분포 (Normal Distiribution) 확률변수 $ X $ 의 밀도함수가 $ \sigma > 0 $ 와 $ -\infty $$ f(x) = \frac{1}{\sigma \sqrt{2 \pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} \qquad -\infty 또한 다음과 같이 확률변수 $ X $ 가 기댓값이 $ \mu $ 이고, 표준편차가 $ \sigma $ 인 정규분포를 따름을 나타낸다.$$ X \sim N(\mu, \sigma^2) $$가우스가 처음 정립했기 때문에 가우스분포(Gaussian distribution)라고도 하나 정규분포라 부르는 것이 일반적이다.확률밀도함수를 그래프로 그리면 아래와 같은데, 대칭적(symmetric)인 종 모양 그래프이다.그림에서도 확인할..

균등분포의 보편성 균등분포의 보편성은 균등분포를 균일분포라 하기도 한다는 점에서 균일분포의 보편성이라고도 하며, 분위수 변환(quantile transformation), 확률적분변환(probability integral transform), 역변환 샘플링(Inverse transform sampling), 혹은 시뮬레이션의 기본 정리(fundamental theorem of simulation)로도 설명 가능하다.주어진 $ U(0, 1) $ 에서 원하는 모든 연속분포를 갖는 확률변수를 구축할 수 있으며 역도 성립한다.$$ X \sim U(0, 1) \longleftrightarrow Y \sim \text{Arbitrary PDF} $$만약 $ F $ 가 분포의 서포트 상에서 연속이고 순증가(stric..

위치-크기 변환 (Location-Scale Transformation) $ X $ 가 확률변수이고, $ Y = \sigma X + \mu $ 라 하자. $ \sigma > 0 $ 와 $ \mu $는 상수이다. 이때 $ Y $ 는 $ X $ 를 위치-크기 변환하여 얻어졌다고 말한다. 여기서 $ \mu $ 는 위치 변화를, $ \sigma $ 는 크기 변화를 조절한다.이 기법은 이산확률변수에는 적용 불가능하며, 확률밀도함수(PDF)가 아니라 확률변수 자체에 적용해야 한다. 연속균등분포에 적용 이를 연속균등분포에 적용하여 볼 수 있다.$ X \sim U (a, b) $ 이라 하면 변환 $ Y = \sigma X + \mu $ 는 균등성(uniformity)을 보존한다. 즉 다음과 같다.$$ Y \sim U ..

연속균등분포 (Continuous Uniform Distribution) 실수 $ a $ 에서 $ b $ 사이의 값을 선택할 확률이 동일할 때, $ a $ 에서 $ b $ 사이 선택 값을 확률변수 $ X $ 라 하면, 확률변수 $ X $ 는 연속균등분포를 따른다고 한다.$ X \sim U(a, b) $      or      $ X \sim \text{Unif}(a, b) $확률변수 $ X $ 가 $ a $ 에서 $ b $ 까지의 실수를 선택하는 연속균등분포를 따를 때 위와 같이 나타낸다. 이산적이지 않고, 연속적으로 확률변수 값이 나타나기 때문에 연속확률분포이다.연속균등분포가 중요한 이유는 임의의 분포함수 $ F(y) $ 를 따르는 확률변수 $ Y $ 의 관측값 집합을 구할 때, 연속균등분포를 따르는 ..

푸아송분포 (Poisson Distribution) 어떤 시공간 혹은 명시된 영역에서 사건이 평균적으로 $ \lambda $ 번 발생할 때, 사건이 발생할 횟수를 확률변수 $ X $ 라 하면, 확률변수 $ X $ 가 푸아송분포를 따른다고 한다. 포아송이라고도 한다.$$  X \sim Po(\lambda) $$확률변수 $ X $ 가 평균적으로 벌어지는 사건 횟수가 $ \lambda $ 인 푸아송분포를 따를 때 위와 같이 나타낸다. 이때 각 구간에서 벌어지는 사건이 독립적이고, 일정해야 하며, 가능한 희소한 사건이어야 푸아송분포로 확인하는 것이 의미가 있다. 만약 독립적이지 않고, 일정하지 않다면 푸아송분포를 사용하지 못하며, 희소한 사건이 아니라면 푸아송분포를 사용하는 의미가 퇴색된다.특징을 생각해본다면 ..

이산균등분표 (Discrete Uniform Distribution) 유한하고 공집합이 아닌 수들의 집합 $ C $ 에서 하나의 원소를 선택할 확률이 동일할 때, 선택 값을 확률변수 $ X $ 라 하면, 확률변수 $ X $ 가 이산균등분포를 따른다고 한다.$$ X \sim \text{DUnif}(n) $$확률변수 $ X $ 가 $ 1 $ 에서 $ n $ 까지의 자연수 하나를 선택하는 이산균등분포를 따를 때 위와 같이 나타낸다. 주로 $ 1 $ 에서 $ n $ 까지 나타내기 때문에 위와 같이 나타내는 것이지, 범위가 $ a $ 에서 $ b $ 까지라면, $ X \sim \text{DUnif}(a, b) $ 와 같이 나타내기도 한다. 이산균등분포의 성질 $ X \sim \text{DUnif}(n) $ 일 때..

초기하분포 (Hypergeometric Distribution) 크기가 $ N $ 인 모집단에 $ r $ 개의 관심집단이 포함되어 있고, 여기서 $ n $ 개의 표본을 비복원추출하였을 때, 표본에서 관심집단의 수를 확률변수 $ X $ 라 하면, 확률변수 $ X $ 가 초기하분포를 따른다고 한다. $ X \sim H(N, n, r) $      or      $ X \sim \text{HGeom}(N, n, r) $확률변수 $ X $ 가 모집단 크기가 $ N $, 모집단 내 관심집단의 크기가 $ r $, 표본의 크기가 $ n $ 인 초기하분포를 따를 때 위와 같이 나타낸다. 단 누구는 모집단의 크기 대신 모집단에서 관심집단의 크기를 제외한 크기, 즉 $ N - r $ 을 사용하기도 하며, $ N $, $ ..