일원배치 분산분석(ANOVA) 쉽게 이해하기 — 개념과 원리
일원배치 분산분석은 서로 독립인 세 개 이상 집단의 평균이 모두 같은지를 하나의 F 검정으로 판단하는 방법입니다. t 검정을 여러 번 반복하는 대신 한 번에 비교하므로, 교수법·비료 종류·생산 라인처럼 수준이 여러 개인 요인을 비교할 때 사용합니다. 집단마다 한 행에 값을 입력하고 세미콜론(;)으로 구분하면 F, p값, 두 자유도, η²를 계산합니다.
계산 방법
- 집단별 평균과 전체 N개 자료의 총평균을 구합니다.
- 집단 간 제곱합 SSB = Σ nⱼ(집단평균ⱼ − 총평균)²
- 집단 내 제곱합 SSW = ΣΣ(x − 집단평균)²
- 평균제곱: MSB = SSB ÷ (k − 1), MSW = SSW ÷ (N − k)이며 k는 집단 수입니다.
- F = MSB ÷ MSW이고, p값은 자유도 (k − 1, N − k)인 F분포의 위쪽 꼬리 넓이입니다.
- η² = SSB ÷ (SSB + SSW)
원리
전체 변동은 '집단 차이로 설명되는 부분'과 '집단 안에 남는 부분'으로 정확히 나뉩니다. MSW는 어떤 경우에도 우연한 오차의 분산을 추정합니다. MSB는 모든 모평균이 같을 때만 같은 오차분산을 추정하고, 평균이 다르면 더 커집니다. 따라서 두 값의 비는 귀무가설에서 1 근처, 평균이 실제로 다르면 큰 값이 됩니다. 정규성과 등분산을 가정하면 이 비는 피셔가 도입한 F분포를 따릅니다.
예제 풀이
- 집단: {5, 6, 7, 8}, {7, 8, 9, 10}, {6, 7, 6, 8} → k = 3, N = 12입니다.
- 집단평균은 6.5, 8.5, 6.75이고 총평균은 87 ÷ 12 = 7.25입니다.
- SSB = 4 × (0.5625 + 1.5625 + 0.25) = 9.5입니다.
- SSW = 5 + 5 + 2.75 = 12.75입니다.
- MSB = 9.5 ÷ 2 = 4.75, MSW = 12.75 ÷ 9 ≈ 1.4167입니다.
- F ≈ 3.3529, 자유도 2 / 9, p ≈ 0.0816입니다.
- η² = 9.5 ÷ 22.25 ≈ 0.4270입니다.
결과 해석
p ≈ 0.082로 0.05보다 크므로 유의수준 5%에서 평균 차이가 유의하지 않습니다. 자유도 (2, 9)의 5% 임계값은 약 4.26입니다. 그러나 η² ≈ 0.43은 관측 변동의 43%가 집단 차이로 설명된다는 뜻이어서 효과가 작다고 보기 어렵고, 표본이 작아 결론을 내리기 어려운 상황으로 해석하는 것이 적절합니다. F가 유의하더라도 '적어도 한 평균이 다르다'는 뜻일 뿐이므로, 어느 집단이 다른지는 투키 HSD 같은 사후검정으로 확인합니다.
흔한 실수
- ANOVA 대신 t 검정을 여러 번 하여 제1종 오류가 커지는 경우
- 같은 대상을 반복 측정한 자료에 일원배치 ANOVA를 쓰는 경우
- 소표본에서 η²가 효과를 과대평가한다는 점을 놓치는 경우
자주 묻는 질문
집단이 두 개뿐이어도 ANOVA를 쓸 수 있나요?
네. 두 집단이면 F는 합동분산 t 통계량의 제곱과 같고 p값도 같습니다.
집단의 표본 크기가 같아야 하나요?
아닙니다. 다만 크기가 같으면 분산이 달라도 검정이 더 안정적입니다.
η²는 어느 정도면 큰 편인가요?
흔히 0.01은 작음, 0.06은 중간, 0.14는 큼으로 보지만 분야의 맥락이 더 중요합니다.
출처: Fisher, R. A. Statistical Methods for Research Workers (1925). · Montgomery, D. C. Design and Analysis of Experiments (Wiley).