[확률과 통계] - (24) 가설 검정[0] - 가설검정 이해하기

 

 

 

가설 검정

어떠한 추측이나 가설에 대하여, 해당 가설의 타당성을 조사하는 것을 가설 검정이라고 합니다.

 

 

 

 

통계적 가설 

통계를 통해 알 수 있는 것은 평균과 표준편차와 같은  모수(parameter)입니다.

즉 모수(parameter)에 대한 예상, 추측 등을 통틀어 통계적 가설이라 부릅니다.

'어떤 집단의 평균은 A일거야!' 등을 예시로 볼 수 있습니다.

 

 

 

 

 

통계적 가설 검정

통계적 가설 검정은 통계적 가설에 대하여 해당 가설의 타당성을 조사하는 것입니다.

 

통계적 가설 검정을 위해서는 두개의 대립된 가설이 필요합니다.

이제부터 이해를 돕기 위해 친구 한명을 통해 다음 예시를 하나 생각해 보겠습니다.

친구의 이름은 김유겸이라고 하겠습니다.

어떠한 모집단에 대하여 유겸이가 해당 모집단의 평균은 A라고 주장하고 있습니다.
당신은 유겸이가 너무나 꼴뵈기 싫어서, 유겸이의 주장이 잘못되었다는 것을 입증하고 싶어합니다.

유겸이의 주장이 잘못되었음을 확인하기 위해서는 모집단 전체를 전수조사 해야하지만, 이는 불가능하기에 크기 n인 표본을 뽑았습니다.

표본을 뽑아 표본의 평균과 분산을 구해보니 다음과 같았습니다.
$$평균 : \overline{X}_n$$
$$분산 : \sigma^{2}$$

 

표본평균의 평균은 모평균과 동일하다는 것은 지금까지 배웠습니다.

저희는 유겸이의 주장이 틀렸다는 것을 입증하고 싶으므로, 유겸이의 주장에 따른 가설을 세운 뒤 해당 가설이 틀렸음을 보여야 합니다.
유겸이의 주장에 따라 다음과 같은 가설을 세울 수 있습니다.
$$E(\overline{X}_n) = A$$
틀렸음을 보이고 싶은 가설, 틀렸다고 예상하는 가설을 귀무가설(null hypothesis, H0)이라고 합니다.
즉 유겸이의 주장이 바로 귀무가설입니다.


이와 반대되게 우리가 입증하고자 하는 가설을  대립가설(alternative hypothesis, H1)이라고 합니다.
즉 대립가설은 우리가 입증하고자 하는 가설이며 다음과 같습니다.
$$E(\overline{X}_n) \neq A$$


귀무는 한자어로 '돌아갈 귀'에 '없을 무' 입니다.
즉 기존의 것과 별 차이가 없는 가설입니다.
영어로는 null, 즉 아무런 가치가 없는 가설이라는 뜻입니다.

 

 

 

 

대립가설 (alternative hypothesis, H1)

모집단에 대해 새롭게 제기된 이론이나 주장을 의미합니다.
표본을 이용하여 입증하고자 하는 가설입니다.

이는 기호로 다음과 같이 표현합니다.
$$H_1$$

 

 

 

 

귀무가설 (null hypothesis, H0)

대립가설과 반대되는 가설입니다.

이는 기호로 다음과 같이 표현합니다.
$$H_0$$

 

 

 

 

저희는 유겸이의 주장, 즉 귀무가설이 틀렸을 보이고, 대립가설을 채택하고 싶은 상황입니다.

 

 

 

 

 

1표본 Z검정

유겸이의 주장이 틀렸음을 보이기 위해 크기 n인 표본을 뽑았었습니다.
표본의 수 n이 충분히 커서, 표본평균의 분포가 정규분포에 근사한다고 가정하겠습니다.
이때 표본평균의 평균은 유겸이가 주장하는 A와 같다고 하겠습니다. 즉 다음과 같습니다.
$$\overline{X}_n \; \sim \; N(A, \frac{\sigma^{2}}{n})$$

이때 저희가 뽑은 표본의 평균을 다음과 같이 나타내보겠습니다.
$$\overline{X}_1$$


실제 표본의 값을 구한 뒤, 이를 정규분포의 그래프 위에 표시해 보겠습니다.

유겸이의 주장대로 모집단의 평균이 A인 경우에
저희가 뽑은 표본의 평균(X_1) 이상의 평균값을 갖는 표본이 뽑힐 확률이 계산 결과 0.02, 즉 2%가 나왔다고 하겠습니다.
(해당 계산은 표준정규분포표를 사용하여 구할 수 있습니다.)

 

위 경우에, 두 가지 가능성이 있습니다.

1. 2%라는 낮은 확률로 표본이 뽑혔거나
2. 유겸이의 가설이 틀렸거나


통계학에서는 1번의 가능성이 희박하기에 2번의 가능성을 선택합니다.

이제 유겸이의 가설, 즉 귀무가설을 기각(reject)하고 대립가설을 체택합니다.

 

지금까지 저희는 평균이 A라는 유겸이의 주장이 틀렸음을 확률적으로 검정했습니다.

위와같은 검정을 1표본 Z 검정이라고 합니다.

표준정규분포를 Z분포라 하며, 검정에 있어서 Z분포를 사용했으며, 1개의 표본을 사용했기 때문입니다.

 

 

 

 

 

 

 

 

 

유의수준 (Significance level,  α)

위의 가설을 기각(reject)하는 과정에서 한가지 의문점이 생깁니다.

과연 몇% 확률까지를 희박하다고 생각하고 가설을 기각할까요?

귀무가설을 기각하는 확률을 유의수준(significance level)이라고 부릅니다.
기호로는 알파(α)를 사용합니다.

통계학에서는 일반적으로 5%로 정합니다.

즉 일반적으로 α = 0.05입니다.

 

 

 

 

 

 

 

유의확률 (Signufucance probability,  p-value)

저희가 뽑은 표본이 그래프 상에서 2%의 영역에 속했었습니다.

뽑은 표본의 평균이 속해있는 영역의 확률을 유의확률(Signufucance probability)이라고 합니다.

기호로는 p를 사용하며, 주로 p-value라고 부릅니다

 

귀무가설이 기각되는 조건은 다음과 같습니다
$$p-value < 0.025$$

이는 유의수준의 절반값인데, 0.5가 아닌 0.025를 사용했는지에 대한 의문을 풀어가도록 하겠습니다.

 

 

 

 

 

기각역 (Rejection Region)

유의수준에 해당되는 그래프 상의 영역을 의미합니다.

 

 

 

 

 

 

 

 

양측검정

잠시 유겸이의 주장인 귀무가설을 떠올려 보겠습니다.

$$H_0 : \; E(\overline{X}_n) = A$$

유겸이의 주장에 따르면, 표본평균의 분포는 다음과 같이 그려질 것입니다.

 

 

평균이 반드시 A보다 큰 경우에만 유겸이의 주장, 즉 귀무가설을 기각할 수 있을까요?

아닙니다. 평균보다 작은 경우에도 기각할 수 있습니다.

 

즉 이 경우 기각역은 정규분포의 양 끝에 존재합니다.

기각역은 5%이므로, 양쪽에 각각 2.5%씩 기각역을 갖습니다.

 

이와 같이 기각역이 양쪽에 존재하는 검정을 양측검정(two-sided test 혹은 two tailed test)이라고 부릅니다.

 

 

 

 

 

 

 

단측검정

양측검정과 반대로 기각역이 한쪽에만 존재하는 검정을 단측검정(one-sided test)이라고 부릅니다.

 

단측검정의 예시를 위해 다음 상황을 생각해보겠습니다.

유겸이의 새로운 주장은 이렇습니다. 
모집단의 평균은 A 이하일거야!
$$H_0 : \; E(\overline{X}_n) \leq A$$

이번에도 유겸의의 주장을 묵살시키기 위해 다음과 같은 대립가설을 세웁니다.
$$E(\overline{X}_n) > A$$

위 경우에는 기각역이 다음과 같이 오른쪽에만 존재합니다. 즉 기각역은 다음과 같습니다.

 

 

 

 

 

 

 

1종오류(Type I Error), 2종오류(Type II Error)

위와 같은 통계적 검정의 결과로는 다음 4가지 상황이 발생할 수 있습니다.

1. 귀무가설이 참인데 채택하는 경우  (GOOD)
2. 귀무가설이 참인데 기각하는 경우 (1종 오류, α오류, Type I Error)
3. 귀무가설이 거짓인데 채택하는 경우 (2종 오류, β오류, Type II Error)
4. 귀무가설이 거짓인데 기각하는 경우 (GOOD)

 

 

 

 

1종 오류(α오류, Type I Error)

귀무가설이 참인 상황에서, 표본이 기각역에 존재하여 귀무가설을 기각한 경우 발생합니다.
기각역이 차지하는 넓이를 유의수준과 같으므로, 1종 오류가 발생할 확률을 유의수준 α와 같습니다.
따라서 1종 오류를 α오류라고 부릅니다.

 

유겸이의 주장이 웬일로 맞았는데, 표본이 낮은 확률로 기각역에서 뽑혀 유겸이의 주장을 기각한 상황입니다.

 

 

 

 

 

 

2종 오류(β 오류, Type II Error)

귀무가설이 거짓인 상황에서, 표본이 기각역에 존재하지 않아 귀무가설을 채택한 경우 발생합니다.

유겸이의 주장과 다르게, 실제 모집단의 평균이 μ라고 가정하겠습니다.
이때 단측검정을 예시로 해당 상황을 확률분포로 그려보겠습니다.

2종 오류가 발생할 확률은 β입니다.

 

그래프를 통해 확인할 수 있듯이, 1종오류와 2종오류는 서로 trade-off 관계를 가집니다.

기각역을 줄이면 1종 오류는 줄어들지만, 2종 오류는 늘어납니다.
기각역을 늘리면 2종 오류는 줄어들지만, 1종 오류는 늘어납니다.

 

 

 

 

 

 

 

 

 

 

 

 

Reference

 

https://www.youtube.com/watch?v=svp77vA4duk