가설검정

왜 배우는가: 가설검정은 실무에서 표본 자료만으로 공정과 제품에 대한 주장을 판단해야 할 때 쓰는 기본 도구이다. 기각·채택 판단과 오류 확률 설계가 모두 이 개념 위에 세워지므로 여러 교시의 문항에서 반복해서 다뤄진다. 제1종 오류, 제2종 오류, p-값, 유의수준은 다른 검정과 실험계획 문항에서도 그대로 쓰인다.

출제 이력: 제137회 1교시 6번, 제136회 1교시 5번, 제131회 1교시 7번, 제116회 1교시 5번, 제116회 3교시 6번, 제113회 1교시 13번, 제95회 2교시 5번, 제94회 4교시 2번

1. 한 줄 정의와 핵심 키워드

가설검정은 모집단 모수에 대한 가설을 표본통계량으로 평가하여 채택 여부를 정하는 절차이다.

가설검정은 모수에 대한 주장을 표본 자료로 검증하는 통계적 의사결정 과정이다. 답안의 논리가 맞으려면 아래 키워드의 관계를 먼저 잡아야 한다. 핵심 키워드는 다음과 같다.

• 귀무가설(H₀)
• 대립가설(H₁)
• 검정통계량
• 유의수준(α)
• p-값
• 제1종 오류
• 제2종 오류
• 검정력(1−β)

가설검정의 출발점은 주장의 반대편을 명확히 세우는 것이다. 연구자가 입증하고자 하는 내용은 대립가설로 두고, 이와 상반되는 내용을 귀무가설로 둔다. 두 가설은 동시에 참일 수 없고 서로 배반되어야 하며, 등호(=)는 항상 귀무가설 쪽에 놓인다. 이 구조를 잡지 못하면 기각과 채택의 해석이 모두 뒤집힌다.

검정의 결론은 귀무가설을 기각하거나 기각하지 못하는 두 가지뿐이며, 두 결론 모두 오류의 가능성을 가진다. 따라서 가설검정은 오류의 확률을 검정 전에 정해 통제하는 방식으로 설계된다. 이 설계가 유의수준과 검정력 개념의 출발점이다.

2. 개념 풀이

가설검정의 정식 정의는 모집단의 모수에 대한 연구가설의 채택 여부를 표본통계량으로 검정하는 일련의 과정이다. 연구가설을 직접 증명하지 않고 이와 상반되는 귀무가설을 세운 뒤, 귀무가설이 표본 자료와 모순되는지를 확인하는 방식으로 진행된다. 귀무가설이 참이라고 가정하면 검정통계량의 분포가 정해지므로, 실제 관측값이 그 분포에서 드물게 나타나는 영역에 드는지를 따질 수 있다.

검정은 다음 순서로 진행된다.

• 연구 주장을 귀무가설과 대립가설로 바꾸어 설정한다.
• 허용할 오류의 확률인 유의수준을 정한다.
• 귀무가설 아래에서 검정통계량의 분포를 정하고 기각역을 정한다.
• 표본 자료로 검정통계량의 값을 계산한다.
• 계산값이 기각역에 들면 귀무가설을 기각하고, 들지 않으면 귀무가설을 채택한다.

여기서 채택은 귀무가설이 참임을 증명한다는 뜻이 아니라, 기각할 충분한 근거가 없다는 뜻이다. 이 구분을 놓치면 채점에서 감점을 받는다.

p-값은 귀무가설이 맞다고 가정할 때 실제 관측된 통계치와 같거나 더 극단적인 통계치가 나타날 확률이다. 0~1 사이의 값을 가지며, 값이 작을수록 관측 결과가 귀무가설과 양립하기 어렵다는 뜻이다. 실무에서는 p-값을 유의수준과 비교하여 결론을 내리므로, 기각역 비교와 결론이 같아진다.

p-값이 유의수준보다 작으면 귀무가설을 기각한다.

유의수준(α)은 제1종 오류를 허용하는 최대 확률이며 검정 전에 정한다. 관례적으로 α = 0.05 또는 0.01을 쓰고, 값이 작을수록 귀무가설을 기각하기 어려워진다.

제1종 오류는 참인 귀무가설을 기각하는 오류이고, 제2종 오류는 거짓인 귀무가설을 기각하지 못하는 오류이다. 제2종 오류의 확률을 β라 하면 검정력은 1−β이며, 대립가설이 참일 때 귀무가설을 올바르게 기각하는 확률이다. 식으로 정리하면 다음과 같다.

$α = P(제1종 오류)$

$1-β = 검정력$

대립가설의 형태에 따라 검정은 양측검정(≠)과 단측검정(>, <)으로 나뉜다. 양측검정은 기각역이 분포의 양쪽에 나뉘고, 단측검정은 한쪽에만 놓인다. 방향을 미리 정한 단측검정은 유의수준 전체를 한쪽에 쓰므로 그 방향의 차이를 검출하는 능력이 상대적으로 크다.

3. 등장 배경과 필요성

모집단 전체를 조사하면 모수를 정확히 알 수 있지만, 비용과 시간이 많이 들고 제품을 파괴해야 하는 검사에서는 전수 조사가 불가능하다. 그래서 일부를 뽑은 표본의 자료로 모집단에 대한 판단을 내리는 방법이 필요해졌다. 가설검정은 이 요구에 대한 답이며, 생산 공정의 평균이 규격을 만족하는지, 공정 변경 후 산포가 달라졌는지 같은 질문을 자료로 판정한다.