두 모집단 평균·분산

왜 배우는가: 두 집단의 평균과 분산 차이를 판정하는 절차는 공정 개선 효과나 두 설비의 품질 차이를 확인할 때 가장 먼저 쓰는 통계 도구이다. 시험에서는 분산 검정 결과에 따라 평균 검정식이 바뀌는 2단계 절차가 반복해서 묻는 핵심이다.

출제 이력: 제131회 4교시 2번, 제127회 4교시 5번, 제125회 3교시 3번, 제124회 4교시 2번, 제98회 3교시 1번, 제92회 2교시 2번

1. 한 줄 정의와 핵심 키워드

두 모집단 평균·분산 검정은 두 모집단의 모수 차이를 표본 통계량으로 가설검정하는 방법이다.

두 모집단 평균·분산 검정은 서로 독립인 두 모집단에서 각각 추출한 표본을 비교하여, 두 모집단의 평균 차이와 분산 차이를 판정하는 통계적 추론 방법이다. 답안 첫 줄에는 이 정의를 쓰고, 이어서 아래 키워드를 절차와 연결하여 설명한다.

• 모평균 차이 검정: 두 모평균이 같은지를 t분포로 판정하는 검정이다.
• 모분산비 검정: 두 모분산의 비가 1인지를 F분포로 판정하는 검정이다.
• 등분산 검정: 두 모분산이 같은지를 판정하여 평균 검정식을 고르는 절차이다.
• 합동분산: 두 표본의 분산을 자유도로 가중하여 합친 추정량이다.
• F분포: 자유도로 나눈 두 카이제곱 변수의 비가 따르는 분포이며 분산비 검정의 기준 분포이다.
• 유의수준: 제1종 오류를 허용하는 확률 α이다.
• 신뢰구간: 모수가 포함될 구간을 신뢰율과 함께 제시한 구간이다.

2. 개념 풀이

두 모집단 평균·분산 검정은 두 모집단이 서로 독립이고 정규분포를 따른다는 가정 아래, 모평균과 모분산에 대한 귀무가설을 표본의 평균과 분산으로 검정하는 절차이다. 검정 대상은 평균 차이 μ₁ − μ₂와 분산비 σ₁²/σ₂²이며, 두 값은 서로 다른 기준 분포를 따르므로 따로 다룬다.

분산이 같다면 두 표본을 하나의 분산으로 묶어 평균 차이를 판정할 수 있다. 분산이 다르면 묶음 자체가 부적절하므로, 분산을 먼저 검정하여 평균 검정식을 고르는 것이 순서이다. 분산이 같은지를 먼저 판정해야 평균 검정식이 정해진다. 이 순서를 어기면 평균 검정의 실제 오류 확률이 설정한 유의수준과 달라진다.

두 표본분산의 비 F₀는 다음과 같이 계산한다. $F₀ = s₁² ÷ s₂²$ 여기서 s₁², s₂²는 두 표본의 분산이고 n₁, n₂는 표본 크기이다. 두 표본분산의 비 F₀는 두 모분산이 같다는 귀무가설 아래에서 자유도 (n₁−1, n₂−1)의 F분포를 따른다. 이 기준으로 등분산 검정을 수행하며, F₀가 1에 가까우면 두 분산이 같다고 보고 양측 검정에서는 하측과 상측 임계값 밖으로 벗어날 때 귀무가설을 기각한다.

분산이 같다고 판정되면 합동분산을 계산하여 평균 차이를 검정한다. $s_p² = {(n₁−1)s₁² + (n₂−1)s₂²} ÷ (n₁+n₂−2)$ $t₀ = (x̄₁ − x̄₂) ÷ {s_p √(1/n₁ + 1/n₂)}$ 여기서 x̄₁, x̄₂는 표본평균이고 s_p는 합동표준편차이다. t₀는 자유도 n₁+n₂−2의 t분포를 따른다.

분산이 다르면 합동분산을 쓰지 않고 웰치 검정을 쓴다. 웰치 검정은 각 표본분산으로 표준오차를 따로 계산하며, 자유도를 표본 자료로부터 근사하여 t분포로 판정한다. 같은 자료라도 합동 방식과 웰치 방식의 결론이 다를 수 있으므로, 답안에는 등분산 검정 결과를 먼저 밝히고 어느 방식을 썼는지 적는다.

판정 기준인 유의수준은 보통 α = 0.05(5%)를 쓴다. 신뢰구간은 같은 표본 자료로 모분산비 σ₁²/σ₂²의 범위를 추정하는 방법이며, 신뢰율 1−α의 구간은 F분포의 상하 임계값으로 만든다.

3. 등장 배경과 필요성

실무에서는 두 공정, 두 설비, 두 제조방법의 결과를 비교하는 일이 많다. 평균만 비교하면 두 집단의 산포 차이가 드러나지 않아 판단을 그르칠 수 있다. 가상의 예로, 두 열처리 라인의 인장강도 평균이 같더라도 한쪽의 산포가 크면 품질 관리 측면에서는 두 라인을 다르게 판정해야 한다.

두 집단 비교 방법은 정규분포 가정 아래 표본평균의 분포와 표본분산의 비가 각각 t분포와 F분포를 따르기 때문에 성립한다. 이 성질 덕분에 표본 크기가 작아도 평균 차이와 분산비를 확률로 판단할 수 있으며, 그 결과가 신뢰구간 추정과 가설검정의 기초가 된다.

분산이 같다는 가정을 검증하지 않고 평균 검정을 하면 잘못된 결론이 나온다. 분산이 다른 두 집단을 합동분산으로 묶으면 표준오차가 실제와 다르게 계산되어, 평균 차이의 판정이 설정한 유의수준에서 벗어난다. 그래서 등분산 검정은 평균 검정에 앞서 수행하는 필수 단계로 자리 잡았다.

독립표본과 대응표본은 구분해야 한다. 같은 대상을 전후로 측정한 자료는 두 표본이 독립이 아니므로 대응표본 t검정을 쓰며, 이 절의 방법은 서로 독립인 두 표본에 적용한다. 자료 구조를 잘못 보면 검정 통계량 자체가 틀리므로, 답안에서는 표본 구성 조건을 먼저 밝힌다.

공정 개선 전후 비교, 공법 간 수명 비교, 두 기업의 생산비 차이 추정처럼 두 집단 비교는 품질공학과 실험계획법 전반의 기초가 된다. 분산 검정 결과에 따라 평균 검정식이 달라지는 2단계 절차가 시험에서 반복해서 묻는 구조이므로, 판정 순서와 기준을 함께 정리해 두어야 한다.