[확률과 통계] - (14) 중심극한정리(Central Limit Theorem, CLT)

 

 

 

 

 

중심극한정리

모집단(Population)이 평균 $\mu$, 분산 $\sigma^2$ 인 임의의 분포를 이룰 때,
이 모집단으로부터 추출된 표본들에 대해서 표본의 크기 n이 충분히 크다면
표본평균은 다음 정규 분포에 수렴한다는 정리입니다.


$$\overline{X_n} \; \sim \; N(\;\mu, \; \frac{\sigma^{2}}{n}\; )$$

 

 

 

 

 

 

 

 

 

 

 

 

 

린데베르그-레비(Lindeberg and Levy) 중심극한정리

 

다음과 같이 정의됩니다.

 

 

평균 $\mu$, 분산 $\sigma^2$  를 가지는 모집단으로부터 임의추출한 n개의 표본들에 있을 때, 표본평균은 모든 실수 x에 대해 다음이 성립합니다.

$$\displaystyle \lim_{ n\to \infty} P\left ( \frac{\overline{X_n}-\mu}{\frac{\sigma}{\sqrt{n}}} \leq x \right ) = \Phi(x)$$

 

이는 다음과 같이 작성할 수 있습니다.

$$\displaystyle \lim_{ n\to \infty} P\left ( \frac{\sqrt{n}\;(\overline{X_n}-\mu)\;}{\sigma} \leq x \right ) = \Phi(x)$$

 

 

$$\therefore \;\; \sqrt{n}(\overline{X_n} - \mu)\; \sim \;  N(\;0, \sigma^{2})$$

$$\therefore \;\; (\overline{X_n} - \mu)  \; \sim \;   N(\;0, \frac{\sigma^{2}}{n})$$

$$\therefore \;\; \overline{X_n} \; \sim \;   N(\;\mu, \frac{\sigma^{2}}{n})$$

 

 

 

 

 

 

즉 해석은 다음과 같습니다.

1) Sample mean(표본평균)은 평균이 $\mu$, 분산 $\frac{\sigma^{2}}{n}$ 인 Normal distribution으로 수렴(converge)한다.

2) 표본들의 합(X_1+ X_2+ ... + X_n)은 평균이  $n\mu$, 분산 $n\sigma^{2}$인 Normal distribution으로 수렴(converge)한다.


(표본평균 = 표본들의 합 / n(표본들의 개수))

 

 

 

 

 

 

 

이는 finite Variance가 아니어도 성립하며,

i.i.d는 충분조건이지 필요조건이 아닙니다. 

(independent는 필요하지만, identically distributed는 충분조건입니다.

Lyapunov central limit theorem에서는 i.d가 아닌 경우에도 성립합니다.)

 

 

 

 

 

 

 

 

 

 

 

예시)

 

 

 

 

구간 [a , b]에서 Uniform Distribution의 p.d.f
$$f(x) = \left\{\begin{matrix} \frac{1}{b-a} & (a \leq x \leq b)\\ 0 & otherwise \\ \end{matrix}\right.$$

$$Var(X) = \frac{(b-a)^{2}}{12}$$

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

참고

 

https://math.stackexchange.com/questions/920661/clt-infinite-variance

CLT - infinite variance

https://drhongdatanote.tistory.com/57

[개념 통계 17] 중심극한 정리는 무엇이고 왜 중요한가?

https://ko.wikipedia.org/wiki/%EC%A4%91%EC%8B%AC_%EA%B7%B9%ED%95%9C_%EC%A0%95%EB%A6%AC​

중심 극한 정리 - 위키백과, 우리 모두의 백과사전