확률론

확률값 계산 $ P (a \leq X \leq b ) $ 의 값을 구하기 위해 먼저 $ X $ 를 표준화하고 그 후에 확률을 계산하면 다음과 같이 나타낼 수 있다. 이때 $ \varphi $ 는 표준정규분포의 확률밀도함수이다.$$ P(a \leq X \leq b) = P\left( \dfrac{a-\mu}{\sigma} \leq \dfrac{X-\mu}{\sigma} \leq \dfrac{b-\mu}{\sigma} \right) $$$$ = P(z_a \leq Z \leq z_b) $$$$ = \int_{-\infty}^{z_b} \varphi(t) dt - \int_{-\infty}^{z_a} \varphi(t) dt $$$$ = \Phi(z_b) - \Phi(z_a) $$또한 확률밀도함수의 정의를 생..

정규분포 (Normal Distiribution) 확률변수 $ X $ 의 밀도함수가 $ \sigma > 0 $ 와 $ -\infty $$ f(x) = \frac{1}{\sigma \sqrt{2 \pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} \qquad -\infty 또한 다음과 같이 확률변수 $ X $ 가 기댓값이 $ \mu $ 이고, 표준편차가 $ \sigma $ 인 정규분포를 따름을 나타낸다.$$ X \sim N(\mu, \sigma^2) $$가우스가 처음 정립했기 때문에 가우스분포(Gaussian distribution)라고도 하나 정규분포라 부르는 것이 일반적이다.확률밀도함수를 그래프로 그리면 아래와 같은데, 대칭적(symmetric)인 종 모양 그래프이다.그림에서도 확인할..

균등분포의 보편성 균등분포의 보편성은 균등분포를 균일분포라 하기도 한다는 점에서 균일분포의 보편성이라고도 하며, 분위수 변환(quantile transformation), 확률적분변환(probability integral transform), 역변환 샘플링(Inverse transform sampling), 혹은 시뮬레이션의 기본 정리(fundamental theorem of simulation)로도 설명 가능하다.주어진 $ U(0, 1) $ 에서 원하는 모든 연속분포를 갖는 확률변수를 구축할 수 있으며 역도 성립한다.$$ X \sim U(0, 1) \longleftrightarrow Y \sim \text{Arbitrary PDF} $$만약 $ F $ 가 분포의 서포트 상에서 연속이고 순증가(stric..

위치-크기 변환 (Location-Scale Transformation) $ X $ 가 확률변수이고, $ Y = \sigma X + \mu $ 라 하자. $ \sigma > 0 $ 와 $ \mu $는 상수이다. 이때 $ Y $ 는 $ X $ 를 위치-크기 변환하여 얻어졌다고 말한다. 여기서 $ \mu $ 는 위치 변화를, $ \sigma $ 는 크기 변화를 조절한다.이 기법은 이산확률변수에는 적용 불가능하며, 확률밀도함수(PDF)가 아니라 확률변수 자체에 적용해야 한다. 연속균등분포에 적용 이를 연속균등분포에 적용하여 볼 수 있다.$ X \sim U (a, b) $ 이라 하면 변환 $ Y = \sigma X + \mu $ 는 균등성(uniformity)을 보존한다. 즉 다음과 같다.$$ Y \sim U ..

연속균등분포 (Continuous Uniform Distribution) 실수 $ a $ 에서 $ b $ 사이의 값을 선택할 확률이 동일할 때, $ a $ 에서 $ b $ 사이 선택 값을 확률변수 $ X $ 라 하면, 확률변수 $ X $ 는 연속균등분포를 따른다고 한다.$ X \sim U(a, b) $      or      $ X \sim \text{Unif}(a, b) $확률변수 $ X $ 가 $ a $ 에서 $ b $ 까지의 실수를 선택하는 연속균등분포를 따를 때 위와 같이 나타낸다. 이산적이지 않고, 연속적으로 확률변수 값이 나타나기 때문에 연속확률분포이다.연속균등분포가 중요한 이유는 임의의 분포함수 $ F(y) $ 를 따르는 확률변수 $ Y $ 의 관측값 집합을 구할 때, 연속균등분포를 따르는 ..

푸아송분포 (Poisson Distribution) 어떤 시공간 혹은 명시된 영역에서 사건이 평균적으로 $ \lambda $ 번 발생할 때, 사건이 발생할 횟수를 확률변수 $ X $ 라 하면, 확률변수 $ X $ 가 푸아송분포를 따른다고 한다. 포아송이라고도 한다.$$  X \sim Po(\lambda) $$확률변수 $ X $ 가 평균적으로 벌어지는 사건 횟수가 $ \lambda $ 인 푸아송분포를 따를 때 위와 같이 나타낸다. 이때 각 구간에서 벌어지는 사건이 독립적이고, 일정해야 하며, 가능한 희소한 사건이어야 푸아송분포로 확인하는 것이 의미가 있다. 만약 독립적이지 않고, 일정하지 않다면 푸아송분포를 사용하지 못하며, 희소한 사건이 아니라면 푸아송분포를 사용하는 의미가 퇴색된다.특징을 생각해본다면 ..

이산균등분표 (Discrete Uniform Distribution) 유한하고 공집합이 아닌 수들의 집합 $ C $ 에서 하나의 원소를 선택할 확률이 동일할 때, 선택 값을 확률변수 $ X $ 라 하면, 확률변수 $ X $ 가 이산균등분포를 따른다고 한다.$$ X \sim \text{DUnif}(n) $$확률변수 $ X $ 가 $ 1 $ 에서 $ n $ 까지의 자연수 하나를 선택하는 이산균등분포를 따를 때 위와 같이 나타낸다. 주로 $ 1 $ 에서 $ n $ 까지 나타내기 때문에 위와 같이 나타내는 것이지, 범위가 $ a $ 에서 $ b $ 까지라면, $ X \sim \text{DUnif}(a, b) $ 와 같이 나타내기도 한다. 이산균등분포의 성질 $ X \sim \text{DUnif}(n) $ 일 때..

초기하분포 (Hypergeometric Distribution) 크기가 $ N $ 인 모집단에 $ r $ 개의 관심집단이 포함되어 있고, 여기서 $ n $ 개의 표본을 비복원추출하였을 때, 표본에서 관심집단의 수를 확률변수 $ X $ 라 하면, 확률변수 $ X $ 가 초기하분포를 따른다고 한다. $ X \sim H(N, n, r) $      or      $ X \sim \text{HGeom}(N, n, r) $확률변수 $ X $ 가 모집단 크기가 $ N $, 모집단 내 관심집단의 크기가 $ r $, 표본의 크기가 $ n $ 인 초기하분포를 따를 때 위와 같이 나타낸다. 단 누구는 모집단의 크기 대신 모집단에서 관심집단의 크기를 제외한 크기, 즉 $ N - r $ 을 사용하기도 하며, $ N $, $ ..

표시확률변수 (Indicator Random Variables) 표시확률변수는 사건이 발생하면 1, 발생하지 않으면 0 을 갖는 확률변수이다. 즉 다음과 같다.$$ I_A = \begin{cases} 1 & \text{Event A occurs} \\ 0 & \text{Event A does not occur} \end{cases} $$또한 사건 $ A $ 와 $ B $ 가 다음에 대해 성립한다.$$ (I_A)^k = I_A \quad k \in \mathbb{Z}^+ $$$$ I_{A^C} = 1-I_A $$$$ I_{A \cap B} = I_A I_B $$$$ I_{A \cup B} = I_A + I_B - I_A I_B $$표시확률변수가 0 또는 1 의 값을 가진다는 것을 생각하면 위의 성질이 성립..

기하분포 (Geometric Distribution) 성공확률이 $ p $ 인 베르누이 시행을 반복할 때, 즉 이항실험을 할 때 처음 성공할 때까지 시행 횟수를 확률변수 $ X $ 라 하면, 확률변수 $ X $ 가 기하분포를 따른다고 한다.$$ X \sim \text{Geom}(p) $$확률변수 $ X $ 가 성공확률이 $ p $ 인 기하분포를 따를 때 위와 같이 나타낸다. 일반적으로는 성공까지 시도한 횟수를 기준으로 기하분포를 말하지만, 처음 성공할 때 까지 실패한 횟수로 기하분포를 말하기도 하기 때문에 주의가 필요하다. 이항분포와 마찬가지로 이산확률분포이다.지수분포와 같이 대표적인 무기억분포(memoryless distribution)인데, 무기억분포란 현재 상태에서 미래의 결과가 과거의 결과와 무관..