One-Way ANOVA의 구조: 하나의 범주형 변수가 연속형 결과에 미치는 영향 분석

2026년 9월 5일 읽는 시간 약 68분

두 Group의 평균을 비교할 때는 Two-Sample t-Test를 사용할 수 있습니다.

하지만 Group이 세 개 이상으로 늘어나면 문제가 달라집니다.

예를 들어 세 가지 Fertilizer를 사용한 뒤 Garlic Bulb Weight를 비교하거나, Placebo와 두 Treatment Group의 평균 T-cell Count를 비교한다고 가정해보겠습니다.

각 Group의 평균을 하나씩 Pairwise t-Test로 비교할 수도 있습니다.

하지만 이전 글에서 살펴본 것처럼 Comparison 수가 증가하면 Multiple Testing과 Type I Error 문제가 발생할 수 있습니다.

이때 여러 Group의 Mean을 하나의 Statistical Model에서 동시에 비교하는 방법이 One-Way ANOVA입니다.

One-Way ANOVA는 하나의 Categorical Factor가 여러 Level을 가질 때, 그 Level에 따라 Continuous Response의 Population Mean이 서로 같은지 하나의 Overall Hypothesis로 평가하는 Statistical Method입니다.

첨부 교재에서는 Grouping Variable에 세 개 이상의 Level이 있을 때 Pairwise t-Test를 반복하는 대신 모든 Data를 동시에 분석하는 방법을 One-Way Analysis of Variance라고 설명하며, Test Statistic으로 Student’s t가 아니라 F Ratio를 사용한다고 설명합니다.

One-Way ANOVA는 어떤 질문에 답할까?

가장 기본적인 질문은 다음과 같습니다.

“하나의 Categorical Variable에 의해 나누어진 여러 Population의 평균이 모두 같은가?”

예를 들어 Fertilizer라는 Variable이 있다고 가정하겠습니다.

Levels:

Fertilizer 1
Fertilizer 2
Fertilizer 3
Fertilizer 4

그리고 Response는:

Bulb Weight

입니다.

One-Way ANOVA의 질문은:

Fertilizer 종류에 따라 Population Mean Bulb Weight가 다른가?

입니다.

즉:

Categorical Predictor

↓

Fertilizer

그리고:

Continuous Response

↓

BulbWt

구조입니다.

왜 “One-Way”라고 부를까?

One-Way의 One은 Group 수가 하나라는 뜻이 아닙니다.

Factor가 하나라는 뜻입니다.

예를 들어:

Factor

Treatment

이 하나 있고 그 안에:

Placebo
Treatment 1
Treatment 2

라는 세 Level이 있을 수 있습니다.

따라서:

One Factor

Multiple Levels

↓

One-Way ANOVA

입니다.

Factor와 Level은 어떻게 다를까?

매우 중요한 구분입니다.

예를 들어 Treatment가 다음과 같다고 하겠습니다.

Treatment:

Placebo
Low Dose
High Dose

여기서:

Factor

Treatment

Levels

Placebo

Low Dose

High Dose

입니다.

즉 Factor는 Group을 만드는 Variable이고 Level은 그 Variable이 가지는 Category입니다.

Independent Variable과 Response Variable의 역할

One-Way ANOVA에서는 일반적으로:

Independent Variable

Categorical

Response Variable

Continuous

입니다.

예를 들어:

Fertilizer

↓

Independent / Classification Variable

BulbWt

↓

Dependent / Response Variable

입니다.

이 구조는 앞에서 배운 Predictor와 Response Variable 개념을 그대로 사용합니다.

두 Group밖에 없어도 One-Way ANOVA를 사용할 수 있을까?

가능합니다.

두 Group Mean Comparison은 Two-Sample t-Test로 수행할 수도 있고 One-Way ANOVA로 표현할 수도 있습니다.

하지만 One-Way ANOVA의 장점은 Group이 세 개 이상일 때 훨씬 분명해집니다.

예:

2 Groups

↓

1 Pair

4 Groups

↓

6 Pairs

입니다.

Group 수가 늘어나면 하나의 Overall Model이 더 자연스러운 구조가 됩니다.

One-Way ANOVA의 Null Hypothesis

세 Population Mean이 있다고 가정해보겠습니다.

μ₁

μ₂

μ₃

Null Hypothesis는:

H₀: μ₁ = μ₂ = μ₃

입니다.

즉 모든 Population Mean이 동일하다는 가정입니다.

네 Group이라면:

H₀: μ₁ = μ₂ = μ₃ = μ₄

입니다.

Alternative Hypothesis는 어떻게 표현할까?

다음처럼 쓰면 안 됩니다.

H₁: μ₁ ≠ μ₂ ≠ μ₃

이 표현은 모든 Mean이 서로 달라야 한다는 뜻처럼 보일 수 있습니다.

One-Way ANOVA의 Alternative는:

모든 Population Mean이 같지는 않다.

즉:

적어도 하나의 Population Mean이 다른 Mean과 다르다.

입니다.

왜 “적어도 하나”라고 해야 할까?

예를 들어:

μ₁ = 10

μ₂ = 10

μ₃ = 30

이라고 가정하겠습니다.

Group 1과 Group 2 Mean은 같습니다.

하지만 Group 3은 다릅니다.

따라서:

H₀: μ₁=μ₂=μ₃

는 False입니다.

즉 ANOVA가 Significant하려면 모든 Group이 서로 달라야 하는 것은 아닙니다.

그렇다면 ANOVA는 어느 Group이 다른지 알려줄까?

아닙니다.

One-Way ANOVA의 Overall F Test가 Significant하다는 것은:

모든 Population Means가 같다는 H₀를 Reject할 Evidence가 있다.

는 뜻입니다.

하지만:

Group 1 vs Group 2
Group 1 vs Group 3
Group 2 vs Group 3

중 어느 Pair가 다른지는 Overall Test만으로 알 수 없습니다.

이것이 이후 Post Hoc Test가 필요한 이유입니다.

ANOVA인데 왜 평균이 아니라 Variance를 분석할까?

ANOVA는 Mean Difference를 검정합니다.

그런데 그 Difference를 직접 Pair별로 비교하지 않고 Variability를 분해하여 평가합니다.

핵심은 다음 두 Variation의 비교입니다.

Between-Group Variation

vs.

Within-Group Variation

입니다.

즉:

Group Means 사이 Difference가 Group 내부의 Random Variability에 비해 충분히 큰가?

를 보는 것입니다.

아주 간단한 Example

두 개의 Group을 단순화해보겠습니다.

Group A

Mean = 4

Group B

Mean = 8

전체 Mean은:

입니다.

Group Means:

은 Overall Mean 6에서 각각 떨어져 있습니다.

동시에 각 Group 내부 Observation들도 자신의 Group Mean에서 조금씩 떨어져 있습니다.

ANOVA는 이 두 종류의 Variation을 분리합니다.

Total Variation이란 무엇인가?

Response 전체가 Overall Mean 주변에서 얼마나 퍼져 있는지를 나타냅니다.

이를 교재에서는 Total Sum of Squares, SST와 연결합니다.

개념적으로:

Total Variation

Between-Group Variation

Within-Group Variation

으로 생각할 수 있습니다.

즉:

SST = SSM + SSE

구조입니다.

Error Sum of Squares는 무엇인가?

첨부 교재에서는 Error Sum of Squares, SSE를 각 Observation과 해당 Group Mean 사이의 Squared Deviation 합으로 설명합니다.

즉 Group 내부 Random Variability를 측정합니다.

교재에서는 이를:

Unexplained Variation
Within-Group Variation

이라고도 표현합니다.

구조는:

Observation

↓

자신의 Group Mean과 Difference

↓

Square

↓

모든 Observation 합

↓

SSE

입니다.

Within-Group Variation이 작은 경우

예를 들어:

Group A

9.9

10.0

10.1

Group B

19.9

20.0

20.1

처럼 각 Group 내부 Data가 매우 촘촘하다고 가정해보겠습니다.

Group Mean은 각각:

입니다.

Group 내부 Spread는 매우 작고 Group Mean Difference는 큽니다.

이 경우 Group Effect가 매우 명확해 보입니다.

Within-Group Variation이 큰 경우

이번에는:

Group A

Group B

이라고 가정해보겠습니다.

Mean Difference는 존재하지만 각 Group 내부 Variability도 매우 큽니다.

따라서 Group Mean Difference가 Random Variability에 비해 명확한지 판단하기 어려워질 수 있습니다.

이것이 ANOVA가 Mean Difference만 보지 않는 이유입니다.

Model Sum of Squares란 무엇인가?

첨부 교재에서는 Model Sum of Squares, SSM을 Group Means와 Overall Mean 사이의 Variation으로 설명합니다.

각 Group Mean이 Overall Mean에서 얼마나 떨어져 있는지를 Group Observation 수로 Weight하여 계산합니다.

이를:

Explained Variation

또는:

Between-Group Variation

이라고 설명합니다.

즉:

Group Mean

↓

Overall Mean에서 얼마나 떨어져 있는가?

↓

Group Size 반영

↓

SSM

입니다.

왜 Explained Variation이라고 부를까?

Group이라는 Independent Variable로 설명되는 Variation이기 때문입니다.

예를 들어 Fertilizer Level에 따라 Bulb Weight Mean이 달라진다면:

Fertilizer

↓

BulbWt Difference의 일부 설명

이라고 볼 수 있습니다.

즉 Response Variation 가운데 Group Membership과 관련된 부분입니다.

Error Variation은 왜 Unexplained라고 부를까?

같은 Fertilizer를 사용한 Plant끼리도 Bulb Weight가 완전히 같지는 않을 수 있습니다.

그 Variation은 현재 One-Way Model의 Fertilizer Factor만으로는 설명되지 않습니다.

따라서:

개체차
Measurement Variation
기타 미측정 요인
Random Error

등이 Within-Group Variation에 포함될 수 있습니다.

ANOVA의 핵심 분해

전체 구조는 다음과 같습니다.

Total Variation

↓

Explained by Group

SSM

Between-Group Variation

Not Explained by Group

SSE

Within-Group Variation

입니다.

즉:

SST = SSM + SSE

입니다.

첨부 교재에서도 Model Sum of Squares를 SSM = SST - SSE로 계산할 수 있다고 설명합니다.

교재의 단순 Example

첨부 교재의 계산 Example에서는:

SSE = 4

이고:

SSM = 24

입니다.

따라서 Total Sum of Squares는:

입니다.

이때 Model이 설명하는 Variation 비율은:

24 / 28

≈

85.7%

입니다.

교재도 이 Model에서 Response Variability의 약 85.7%가 Group Difference로 설명되고 나머지 약 14.3%가 Unexplained Variation이라고 설명합니다.

설명된 Variation이 크면 무조건 Significant할까?

아닙니다.

Statistical Significance는 단순 SSM의 크기만 보는 것이 아닙니다.

다음이 함께 중요합니다.

Group 수
Sample Size
Degrees of Freedom
Error Variance

따라서 Sum of Squares를 Mean Square로 변환한 뒤 Ratio를 사용합니다.

그 Ratio가 바로 F Statistic입니다.

F Statistic의 기본 구조

첨부 교재에서는 ANOVA의 F Statistic을 다음과 같이 설명합니다.

Between-Group Variance

Within-Group Variance

입니다.

SAS Output에서는:

Model Mean Square

Error Mean Square

형태입니다.

즉:

F = MSM / MSE

입니다.

F가 1에 가까우면 어떻게 생각할까?

개념적으로 Between-Group Variation과 Within-Group Variation이 비슷한 수준이라는 뜻입니다.

즉 Group Mean Difference가 Random Variation에 비해 특별히 크지 않을 수 있습니다.

반면 F가 매우 크면:

Between-Group Variation

Within-Group Variation

이므로 Group Effect Evidence가 강해질 수 있습니다.

정확한 p-value는 F Distribution을 이용해 계산합니다.

F Statistic은 다음 글에서 더 자세히 다룬다

이번 글에서는 One-Way ANOVA 전체 구조를 이해하는 데 필요한 정도만 살펴봅니다.

F Statistic의 원리: 집단 간 변동과 집단 내 변동을 비교하는 방식

에서는:

Mean Square
Degrees of Freedom
F Distribution
F Ratio

를 보다 깊게 살펴보게 됩니다.

One-Way ANOVA의 Statistical Model

개념적으로 다음처럼 생각할 수 있습니다.

Observed Response

Overall Mean

Group Effect

Random Error

입니다.

예를 들어 Bulb Weight라면:

Observed BulbWt

전체 평균

Fertilizer Effect

Individual Error

입니다.

즉 Observation이 왜 Overall Mean에서 벗어났는지를 Group Effect와 Error로 분해합니다.

Predicted Value는 무엇일까?

첨부 교재에서는 ANOVA의 Predicted Value가 Group Mean이라고 설명합니다.

예를 들어 Fertilizer 1 Group의 Mean BulbWt가:

0.225

라면 그 Group에 속한 Observation의 ANOVA Predicted Value는:

0.225

가 됩니다.

Residual은 무엇일까?

Residual은:

Observed Value – Predicted Value

입니다.

ANOVA에서 Predicted Value가 Group Mean이므로:

Residual

Observed Value

Group Mean

입니다.

첨부 교재도 이 구조를 명확하게 설명합니다.

Residual은 Within-Group Variation과 연결된다

예를 들어 Group Mean이:

이고 한 Observation이:

라면:

Residual = 2

입니다.

다른 Observation이:

이면:

Residual = -2

입니다.

이러한 Residual들의 Variation이 Error Variation의 기반이 됩니다.

즉:

Residual

↓

Group Mean으로 설명되지 않는 부분

입니다.

Residual이 중요한 이유

ANOVA의 Assumption을 평가할 때 Residual을 사용하기 때문입니다.

특히:

Normality
Constant Variance

등을 Residual Pattern을 통해 확인할 수 있습니다.

첨부 교재에서는 Diagnostic Plot을 이용하여 Error가 Approximately Normally Distributed되는지 평가할 수 있다고 설명합니다.

One-Way ANOVA의 주요 Assumption

첨부 교재는 ANOVA Assumption 평가에서 다음 내용을 제시합니다.

Good Data Collection Method로 Independence를 확보
Diagnostic Plot으로 Error Normality 평가
Linear Models Task에서 Equal Variance Test 수행

따라서 대표적인 Assumption은:

Independence

Approximate Normality of Errors

Homogeneity of Variance

입니다.

Independence Assumption이란 무엇인가?

Observation들이 서로 독립적이라는 의미입니다.

예를 들어 한 Subject의 값이 다른 Subject의 값에 직접 종속되지 않는 구조입니다.

이 Assumption은 Software Test 하나로 해결되는 문제가 아니라 Study Design과 Data Collection Method에서 확보해야 합니다.

첨부 교재도 Good Data Collection Methods가 Independence Assumption을 보장하는 데 중요하다고 설명합니다.

같은 Subject를 여러 번 측정한 Data는?

일반적인 Independent One-Way ANOVA 구조와 다를 수 있습니다.

예를 들어 한 Patient의:

Baseline

Week 4

Week 8

값을 서로 독립 Group처럼 취급하면 Observation 간 Correlation을 무시하게 됩니다.

이 경우 Repeated Measures 구조를 고려해야 할 수 있습니다.

즉 Group 수가 세 개라는 이유만으로 One-Way ANOVA를 선택해서는 안 됩니다.

Normality Assumption은 Raw Data 전체에 대한 것일까?

첨부 교재에서는 ANOVA Error, 즉 Residual의 Approximate Normality를 Diagnostic Plot으로 평가하도록 설명합니다.

이 부분은 매우 중요합니다.

단순히 Raw Response Histogram 하나만 보고:

“Normal하지 않으므로 ANOVA 불가능”

이라고 판단하는 것은 지나치게 단순할 수 있습니다.

ANOVA Model에서 Residual Structure를 확인해야 합니다.

Q-Q Plot은 무엇을 확인할까?

Residual Q-Q Plot을 통해 Residual Distribution이 Normal Reference Pattern과 크게 벗어나는지 확인할 수 있습니다.

예를 들어:

Severe Skewness
Heavy Tail
Extreme Residual

등이 있는지 볼 수 있습니다.

첨부 교재는 ANOVA Residual에 대한 Normal Quantile-Quantile Plot을 Diagnostic Tool로 설명합니다.

Normality에서 작은 Departure는 항상 문제일까?

첨부 교재에서는 Sample Size가 Reasonable하고 Group이 Approximate Equal한 Balanced Design에서는 Severe Departure from Normality가 주로 문제가 된다고 설명합니다.

즉 완벽한 Normality를 요구한다는 의미로 해석하면 안 됩니다.

Data Pattern과 Design을 함께 봐야 합니다.

Homogeneity of Variance란 무엇인가?

각 Population의 Error Variance가 동일하다는 Assumption입니다.

예:

σ₁² = σ₂² = σ₃² = σ₄²

입니다.

즉 Group마다 Mean은 다를 수 있지만 Response가 Group Mean 주변에서 퍼지는 정도는 비슷하다는 가정입니다.

Equal Variance를 어떻게 평가할까?

첨부 교재에서는 Linear Models Task가 Equal Variances Test를 생성할 수 있으며 Null Hypothesis는:

모든 Population Variance가 Equal하다.

라고 설명합니다.

즉:

H₀

σ₁² = σ₂² = … = σk²

입니다.

Levene’s Test와 연결된다

교재의 Fertilizer Example에서는 Homogeneity of Variance를 평가하기 위해 Levene’s Test를 사용합니다.

이전 p-value 글에서 살펴봤듯 해당 Example의 p-value는:

0.4173

으로 제시됩니다.

따라서 α=.05에서 Equal Variance H₀를 Reject할 충분한 Evidence가 없습니다.

하지만 이것은 Variance가 정확히 동일하다고 증명하는 것은 아닙니다.

Equal Variance Test만 보면 충분할까?

항상 그렇지는 않습니다.

Sample Size에 따라 Variance Test의 Sensitivity가 달라질 수 있습니다.

따라서 다음도 확인하는 것이 좋습니다.

Group별 SD
Box Plot
Residual Plot

즉 Numerical Test와 Graphical Diagnostics를 함께 사용합니다.

Residual vs Predicted Plot은 무엇을 볼까?

Predicted Value는 Group Mean입니다.

Residual은 Observation과 Group Mean Difference입니다.

따라서 Residual vs Predicted Plot을 보면 Group별 Residual Spread가 비슷한지 시각적으로 확인할 수 있습니다.

첨부 교재에서도 Predictor가 두 개 이상인 ANOVA에서 HOVTEST를 사용할 수 없을 때 Residual을 Predicted Value에 Plot하여 Variability가 일정한지 평가할 수 있다고 설명합니다.

One-Way ANOVA에서는 왜 Group Mean이 Predicted Value일까?

Model에는 Group Membership만 있기 때문입니다.

예를 들어 Fertilizer 1에 속한 모든 Plant는 같은 Predicted Mean을 공유합니다.

즉:

Fertilizer 1

↓

Predicted BulbWt = Fertilizer 1 Mean

Fertilizer 2

↓

Predicted BulbWt = Fertilizer 2 Mean

입니다.

개별 Observation과 Prediction의 차이가 Residual입니다.

ANOVA에서 Residual 합은 어떻게 될까?

첨부 교재에서는 ANOVA Residual Values가 합하면:

이 된다고 설명합니다.

이는 Group Mean이 각 Group의 Center 역할을 하기 때문입니다.

Positive Residual과 Negative Residual이 균형을 이루게 됩니다.

Fertilizer Example을 살펴보자

첨부 교재의 One-Way ANOVA에서는 Fertilizer에 따라 Garlic Bulb Weight가 달라지는지 분석합니다.

ANOVA Table의 결과는 다음과 같습니다.

Model DF

Model Sum of Squares

0.00457996

Model Mean Square

0.00152665

Error DF

Error Sum of Squares

0.02183054

Error Mean Square

0.00077966

F Value

1.96

Pr > F

0.1432

Fertilizer Example의 Null Hypothesis

Fertilizer가 4개 Level을 가진다고 보면:

H₀

μ₁ = μ₂ = μ₃ = μ₄

입니다.

즉 Fertilizer 종류에 따른 Population Mean Bulb Weight Difference가 없다는 가정입니다.

p=0.1432는 어떻게 해석할까?

α=.05와 비교하면:

0.1432 > 0.05

입니다.

따라서:

Fail to Reject H₀

입니다.

첨부 교재에서도 이 결과를 기준으로 Mean들 사이 Difference가 없다는 Null Hypothesis를 Reject하지 않는다고 설명합니다.

정확한 의미는:

현재 One-Way ANOVA Model에서 Fertilizer Group Mean Difference가 존재한다고 결론낼 충분한 Statistical Evidence가 없다.

입니다.

“Fertilizer가 아무 영향도 없다”고 말해도 될까?

그렇게 단정하면 지나칩니다.

p=.1432는 H₀를 Reject하기에 Evidence가 충분하지 않다는 의미입니다.

다음 가능성이 있을 수 있습니다.

실제 Effect가 작음
Sample Size 부족
Within-Group Variability가 큼
다른 중요한 Variable이 Model에서 빠짐

따라서 Non-Significant Result를 “효과 없음이 증명됨”으로 해석하면 안 됩니다.

교재의 Fertilizer Example이 특히 흥미로운 이유

이후 교재에서는 같은 Garlic Data에 Sector라는 Blocking Variable을 추가합니다.

Fertilizer만 포함한 One-Way Model에서는:

Fertilizer p = 0.1432

로 Significant하지 않았습니다.

하지만 Sector까지 Model에 포함한 Randomized Block Design에서는:

Fertilizer F = 4.31

p = 0.0162

로 Significant해집니다.

왜 같은 Fertilizer Effect의 결론이 달라질까?

Sector가 설명하던 Variability를 별도로 Model에 포함했기 때문입니다.

교재에서는 Blocking Variable을 추가한 Model에서 Error Mean Square가:

0.00077966

에서:

0.00039369

로 감소했다고 설명합니다.

즉 이전에는 Error로 남아 있던 Variation 일부가 Sector에 의해 설명됩니다.

결과적으로 Fertilizer Effect를 더 명확하게 Detect할 수 있습니다.

이 Example이 알려주는 중요한 교훈

One-Way ANOVA가 Statistical Calculation을 잘못한 것이 아닙니다.

문제는 Model이 포함하는 정보의 차이입니다.

Model 1

BulbWt

Fertilizer

Error

Model 2

BulbWt

Fertilizer

Sector

Error

입니다.

두 번째 Model에서는 Sector Variation을 분리하므로 Fertilizer Effect의 Precision이 달라집니다.

Statistical Significance는 Data뿐 아니라 Model Structure에도 영향을 받습니다.

그렇다면 항상 변수를 많이 추가하면 좋을까?

아닙니다.

변수는 Study Design과 Scientific Rationale에 따라 포함해야 합니다.

원하는 p-value를 만들기 위해 Model에 변수를 계속 추가하거나 제거하면 Analysis Integrity가 훼손될 수 있습니다.

Fertilizer Example의 Sector는 Randomized Block Design 자체에 포함된 Blocking Factor입니다.

따라서 Design을 반영해서 Model에 포함해야 합니다.

R-Square는 One-Way ANOVA에서도 나올까?

첨부 교재의 Fertilizer One-Way ANOVA Output에서는:

R-Square = 0.173414

가 제시됩니다.

교재에서는 이를 Fertilizer가 BulbWt Variability의 약:

17%

를 설명한다고 해석할 수 있다고 설명합니다.

즉 ANOVA도 Linear Model Framework 안에서 Variance Explained 관점으로 볼 수 있습니다.

R-Square 17%이면 좋은 Model일까?

숫자 하나만으로 좋고 나쁨을 판단하면 안 됩니다.

Domain Context와 연구 목적에 따라 17%가 중요할 수도 있고 작을 수도 있습니다.

또 Statistical Significance와 R²는 서로 다른 정보를 제공합니다.

p-value

Group Effect에 대한 Evidence

R²

Response Variation 중 Model이 설명하는 비율

입니다.

p=.1432인데 R²=.173이면 모순일까?

아닙니다.

Model이 Sample Response Variation의 약 17%를 설명하더라도 Sample Size와 Error Variation을 고려했을 때 Population Group Effect를 α=.05에서 Confirm할 Evidence가 충분하지 않을 수 있습니다.

즉:

Explained Variation

과:

Statistical Significance

는 관련되지만 동일한 개념은 아닙니다.

Group Means를 먼저 확인해야 하는 이유

ANOVA p-value만 보면 실제 Pattern을 알 수 없습니다.

예를 들어 p=.1432라는 Result가:

Pattern A

모든 Means가 거의 동일

인지:

Pattern B

한 Group Mean이 꽤 다르지만 Variability가 큼

인지 알 수 없습니다.

따라서 Group별:

N
Mean
SD

를 먼저 보는 것이 중요합니다.

Descriptive Statistics와 ANOVA의 관계

전체 Workflow는:

Group별 Summary

↓

Mean

↓

Distribution Check

↓

Box Plot

Residual

↓

One-Way ANOVA

↓

Overall F Test

입니다.

즉 Descriptive Statistics는 ANOVA와 별개의 불필요한 작업이 아니라 Model을 이해하기 위한 선행 단계입니다.

Box Plot은 왜 유용할까?

각 Group의:

Median
IQR
Spread
Potential Outlier

를 동시에 확인할 수 있습니다.

예를 들어 Mean Difference가 Outlier 하나 때문에 만들어졌는지 의심할 수 있습니다.

또 Group별 Variability가 크게 다른지 시각적으로 확인할 수 있습니다.

Mean Plot은 무엇을 보여줄까?

Group Mean Pattern을 직관적으로 확인할 수 있습니다.

예:

Group 1 Mean = 10

Group 2 Mean = 11

Group 3 Mean = 30

이라면 Group 3이 크게 차이 난다는 Pattern을 볼 수 있습니다.

하지만 Statistical Significance는 F Test와 Post Hoc Result를 확인해야 합니다.

ANOVA는 Mean만 비교한다

이 점도 중요합니다.

ANOVA가 Non-Significant하다고 Group Distribution 전체가 동일하다는 의미가 아닙니다.

다음은 여전히 다를 수 있습니다.

Variance
Skewness
Tail
Distribution Shape

One-Way ANOVA의 Primary Question은 Population Means Equality입니다.

Group Variance가 크게 다르면 어떻게 될까?

Equal Variance Assumption에 문제가 있을 수 있습니다.

첨부 교재는 Linear Models Task에서 Equal Variances Test를 제공한다고 설명합니다.

실제 분석에서는 Assumption Violation 정도와 Design에 따라 다른 ANOVA Approach를 고려할 수 있습니다.

첨부 교재 References에도 Several Mean Values에 대한 Welch의 Alternative Approach가 포함되어 있지만, 본문 One-Way ANOVA Section의 기본 교육 흐름은 Equal Variance ANOVA에 초점을 둡니다.

Nonparametric ANOVA는 언제 연결될까?

첨부 교재 Appendix에서는 별도로 Nonparametric One-Way ANOVA를 다룹니다.

예를 들어 매우 작은 Sample의 Veneer Durability Analysis에서는 Brand별 Sample Size가 4개뿐이어서 Exact Method를 사용하는 Nonparametric Analysis를 제시합니다.

이는 모든 Multiple-Group 문제를 동일한 Parametric ANOVA로 처리하는 것이 아니라 Data Structure에 맞는 Method를 검토해야 한다는 점을 보여줍니다.

하지만 “Normal하지 않으면 무조건 Nonparametric”은 아니다

그렇게 단순화하면 안 됩니다.

첨부 교재의 Main ANOVA Section에서는 Residual Normality와 Balanced Design, Sample Size를 함께 고려하며 Severe Departure가 주된 문제라고 설명합니다.

따라서 Method 선택은:

Sample Size
Distribution
Outlier
Variance
Study Design

을 함께 검토해야 합니다.

One-Way ANOVA와 Nonparametric One-Way ANOVA는 같은 Hypothesis일까?

완전히 같은 Parameter Hypothesis라고 단순하게 보면 안 됩니다.

Parametric ANOVA는 Population Mean과 Variance Model을 중심으로 합니다.

Nonparametric Method는 Rank 등을 기반으로 Distribution Difference를 평가하는 구조를 가질 수 있습니다.

따라서:

“Normal하지 않으니 같은 Test를 Nonparametric으로 바꾼다.”

정도로만 이해하면 부족합니다.

Missing Data가 ANOVA에 미치는 영향

Response가 Missing인 Observation은 Analysis에서 제외될 수 있습니다.

따라서 Group별 N이 예상과 달라질 수 있습니다.

예:

Group A Expected = 50

Used = 50

Group B Expected = 50

Used = 42

Group C Expected = 50

Used = 30

이라면 Missing Pattern을 확인해야 합니다.

Group별 Missing이 다르면 왜 중요할까?

Sample Size Balance가 달라질 뿐 아니라 특정 특성을 가진 Subject가 Missing일 경우 Group Mean Estimate가 Bias될 수 있습니다.

ANOVA Formula가 Missing Mechanism을 자동으로 해결하는 것은 아닙니다.

따라서 Result 전에 Analysis Population을 확인해야 합니다.

Balanced Design이란 무엇인가?

각 Group의 Sample Size가 동일하거나 비슷한 Design을 의미합니다.

예:

A n=20

B n=20

C n=20

입니다.

첨부 교재는 Reasonable Sample Size와 Approximately Equal Groups를 가진 Balanced Design에서 Moderate한 Normality Departure에 대해 ANOVA가 비교적 Robust할 수 있다는 취지로 설명합니다.

Unbalanced Design은 무조건 문제가 될까?

아닙니다.

하지만 Variance Difference와 Group Size Imbalance가 동시에 큰 경우 특히 주의해야 할 수 있습니다.

또 Model Interpretation과 Sum of Squares Type이 복잡해질 수 있습니다.

One-Way ANOVA에서는 비교적 단순하지만 이후 Two-Way ANOVA에서는 이 문제가 더 중요해집니다.

One-Way ANOVA에서 Model Line과 Factor Line이 같은 이유

첨부 교재의 Fertilizer Output에서는 ANOVA Table의 Model Result와 Type III SS의 Fertilizer Result가 동일합니다.

교재는 그 이유를:

One-Way ANOVA에는 Classification Variable이 하나뿐이기 때문

이라고 설명합니다.

즉 Model 전체가 Fertilizer Effect 하나로 구성되어 있으므로:

Overall Model Test

Fertilizer Effect Test

입니다.

Two-Way ANOVA에서는 달라진다

Factor가 두 개 이상이면:

Model Overall Test

와:

각 Factor Effect Test

가 서로 다른 질문이 됩니다.

예를 들어:

Fertilizer

Sector

가 있으면 Overall Model p-value만으로 Fertilizer가 Significant한지 바로 판단할 수 없습니다.

실제로 첨부 교재의 Block Design Example에서도 Overall Model은:

p=.0003

이고:

Fertilizer p=.0162

Sector p=.0004

로 따로 제시됩니다.

이 차이는 이후 Two-Way ANOVA에서 중요해집니다.

One-Way ANOVA의 p-value가 알려주는 것

p-value가 작으면:

모든 Population Means가 동일하다는 H₀와 현재 Data가 충분히 충돌한다.

는 Evidence를 제공합니다.

즉:

p < α

↓

Reject H₀

입니다.

하지만 p-value가 알려주지 않는 것

다음은 Overall ANOVA p-value만으로 알 수 없습니다.

어떤 Group이 다른가?
Difference가 얼마나 큰가?
Practical하게 중요한가?
모든 Pair가 다른가?

이 내용은 이후 별도의 글:

ANOVA의 p-value가 알려주지 않는 것

에서 자세히 다룹니다.

F Value가 크면 무엇을 의미할까?

Between-Group Variation이 Within-Group Variation보다 상대적으로 크다는 의미입니다.

그러나 F가 몇 이상이면 무조건 Significant하다는 Universal Cutoff는 없습니다.

Degrees of Freedom에 따라 F Distribution이 달라지기 때문입니다.

따라서 SAS에서는 F Value와 함께 Pr > F를 확인합니다.

Pr > F란 무엇일까?

H₀가 참일 때 현재 관찰된 F Statistic 또는 그보다 큰 F Statistic이 나타날 Probability와 연결된 p-value입니다.

예를 들어 Fertilizer Example:

F = 1.96

Pr > F = 0.1432

입니다.

따라서 α=.05에서는 H₀를 Reject하지 않습니다.

F Statistic이 Negative가 될 수 있을까?

일반적인 ANOVA F Statistic은 Variance Ratio이므로 Negative가 될 수 없습니다.

Mean Squares는 Squared Deviations에 기반하므로 0 이상입니다.

따라서:

F ≥ 0

입니다.

이는 t Statistic이 Positive 또는 Negative가 될 수 있는 것과 차이가 있습니다.

그러면 ANOVA는 Difference Direction을 알려주지 못할까?

Overall F Statistic 자체에는 Direction이 없습니다.

F가 크다는 것은 Mean Difference Pattern이 있다는 의미이지 어느 Group이 높고 낮은지는 알려주지 않습니다.

Direction은:

Group Means
Pairwise Differences

를 확인해야 합니다.

t-Test와 ANOVA의 중요한 차이

t-Test

두 Group만 비교

↓

Difference Sign 확인 가능

ANOVA

여러 Group Overall Comparison

↓

F는 Direction 없음

입니다.

이 때문에 ANOVA Result에서는 Descriptive Mean Table이 특히 중요합니다.

One-Way ANOVA 결과를 해석하는 기본 순서

다음 순서가 좋습니다.

1. Factor와 Levels 확인

어떤 Group을 비교하는가?

2. Response 확인

어떤 Continuous Outcome의 Mean인가?

3. Group별 N

Sample Balance와 Missing 확인

4. Group별 Mean / SD

Pattern과 Variability 확인

5. Distribution / Outlier

Data Quality와 Assumption 확인

6. Equal Variance / Residual Diagnostics

Model Assumption 확인

7. Overall F Test

p-value 확인

8. Significant한 경우

어떤 Group이 다른지 Post Hoc 또는 Planned Comparison 검토

9. Effect Magnitude

실제 Difference 크기 확인

10. Practical Meaning

Domain Context에서 해석

입니다.

SAS Enterprise Guide에서는 어떻게 실행될까?

첨부 교재의 Main One-Way ANOVA Analysis는 Linear Models Task와 연결됩니다.

교재는 Linear Models Task에서 ANOVA Assumption을 평가하고 Equal Variances Test도 생성할 수 있다고 설명합니다.

개념적인 실행 구조는 다음과 같습니다.

Input Dataset

↓

Response Variable

BulbWt

↓

Classification / Predictor Variable

Fertilizer

↓

Model 설정

↓

Plots / Diagnostics 선택

↓

Run

↓

ANOVA Table

↓

Model SS

Error SS

Mean Square

F Value

Pr > F

↓

Result Interpretation

입니다.

Linear Models라는 이름이 왜 나올까?

ANOVA도 일반 Linear Model Framework의 한 형태이기 때문입니다.

Response를:

Overall Mean

Categorical Factor Effect

Error

로 표현할 수 있습니다.

즉 ANOVA와 Regression은 서로 완전히 별개의 세계가 아니라 Linear Model이라는 더 큰 Framework에서 연결됩니다.

이후 Regression Chapter를 배우면 이 관계가 더 분명해집니다.

One-Way ANOVA를 Regression 형태로 생각할 수 있을까?

가능합니다.

Categorical Factor를 Indicator Variable로 Coding하면 Group Mean Difference를 Regression Coefficient로 표현할 수 있습니다.

하지만 처음 ANOVA를 배울 때는:

Between vs Within Variation

관점이 더 직관적입니다.

왜 ANOVA에서 “Model”이라는 표현을 사용하는가?

Group Mean을 단순 Table로 비교하는 것이 아니라 Response Variation을 다음처럼 Model로 설명하기 때문입니다.

Observed Response

↓

Explained by Factor

Unexplained Error

입니다.

따라서 SAS Output에도:

Model
Error
Corrected Total

이라는 Row가 나타납니다.

Corrected Total은 무엇일까?

Overall Mean을 기준으로 한 Response 전체 Variation입니다.

즉:

Corrected Total SS

Model SS

Error SS

입니다.

Fertilizer Example에서는:

Model SS:

0.00457996

Error SS:

0.02183054

Corrected Total SS:

0.02641050

입니다.

Model SS가 Error SS보다 작으면 항상 Non-Significant할까?

단순 크기만으로 판단하면 안 됩니다.

Degrees of Freedom으로 나누어 Mean Square로 변환해야 합니다.

즉:

MSM = SSM / Model DF

MSE = SSE / Error DF

를 계산한 뒤 Ratio를 봅니다.

따라서 Raw Sum of Squares만 비교하면 안 됩니다.

Mean Square는 왜 필요한가?

Group 수나 Observation 수가 달라지면 Sum of Squares 규모가 달라질 수 있기 때문입니다.

Degrees of Freedom으로 조정하여 Variance Estimate 형태로 바꿉니다.

이 내용은 다음 F Statistic 글에서 더 자세히 다룹니다.

One-Way ANOVA와 Effect Size

ANOVA p-value만으로 Group Effect 크기를 알 수 없습니다.

Effect Size를 표현하는 여러 Measure가 있을 수 있습니다.

첨부 교재의 Fertilizer Example에서는 R²를 이용해 Model이 BulbWt Variability의 약 17%를 설명한다고 해석합니다.

즉 Statistical Significance뿐 아니라 Explained Variance도 확인할 수 있습니다.

R²가 크면 반드시 p-value가 작을까?

관련은 있지만 동일하지 않습니다.

Sample Size가 작으면 R²가 어느 정도 있어도 Statistical Significance가 부족할 수 있습니다.

반대로 Sample Size가 매우 크면 작은 Explained Variation도 Significant할 수 있습니다.

따라서:

Effect Magnitude

와:

Statistical Evidence

를 분리해서 봐야 합니다.

ANOVA에서도 Practical Significance를 봐야 한다

예를 들어:

Group A Mean = 100.0

Group B Mean = 100.1

Group C Mean = 100.2

인데 n이 매우 크다고 가정하겠습니다.

ANOVA p<.001이 될 수 있습니다.

하지만 최대 Mean Difference는:

0.2

입니다.

0.2가 실제로 중요한지는 Domain Context가 결정합니다.

즉:

Significant ANOVA

≠

Practically Important Difference

입니다.

반대로 ANOVA가 Non-Significant한데 큰 Mean Difference가 있을 수도 있다

가능합니다.

예:

Group A Mean = 10

Group B Mean = 20

Group C Mean = 30

이지만 각 Group SD가 매우 크고 n이 작으면 p>.05가 될 수 있습니다.

이 경우 CI가 매우 넓을 수 있습니다.

따라서:

“차이가 없다.”

보다:

“현재 Data에서는 Mean Difference를 정밀하게 확인할 Evidence가 부족하다.”

가 더 적절할 수 있습니다.

ANOVA의 p-value를 성공/실패로 보면 안 되는 이유

연구 목적은 p<.05를 만드는 것이 아니라 Group Effect를 이해하는 것입니다.

따라서 Result가 Non-Significant하더라도 다음을 확인해야 합니다.

Mean Pattern
CI
Sample Size
Variability
Model Design

이 정보 자체가 중요한 연구 결과가 될 수 있습니다.

Group 수가 많아질수록 ANOVA가 유용한 이유

예를 들어 10개의 Group이 있다고 가정하겠습니다.

모든 Pairwise Comparison은:

45개

입니다.

이를 각각 t-Test로 수행하면 분석 구조가 매우 복잡해집니다.

One-Way ANOVA는 먼저:

모든 Means가 같은가?

라는 하나의 Overall Question을 평가합니다.

따라서 분석 Logic이 훨씬 명확해집니다.

하지만 ANOVA 하나만으로 모든 질문이 해결되지는 않는다

Overall Test 후 실제 Research Question에 따라:

Tukey
Dunnett
Planned Contrast

등이 필요할 수 있습니다.

즉 ANOVA는 Multiple Group Analysis의 첫 번째 Overall Layer입니다.

One-Way ANOVA에서 가장 중요한 사고법

단순히:

“Group Means가 다르다.”

가 아니라:

“Group Mean Difference가 Group 내부의 Random Variation보다 충분히 큰가?”

라고 생각하는 것입니다.

이 질문이:

Between-Group Variation

vs.

Within-Group Variation

이라는 ANOVA 구조를 만듭니다.

One-Way ANOVA의 전체 구조

전체를 하나로 연결하면 다음과 같습니다.

Research Question

↓

하나의 Categorical Factor가 Continuous Response Mean에 영향을 주는가?

↓

Factor

Treatment / Fertilizer / Card Type 등

↓

Levels

3개 이상 가능

↓

Response

Continuous Variable

↓

Group별 Descriptive Statistics

↓

Mean

↓

Null Hypothesis

H₀:

μ₁ = μ₂ = … = μk

↓

Total Variation

↓

두 부분으로 분해

Model Variation

Between Groups

Explained

↓

SSM

Error Variation

Within Groups

Unexplained

↓

SSE

↓

Degrees of Freedom 적용

↓

Mean Squares

↓

MSM

MSE

↓

F Statistic

MSM / MSE

↓

p-value

↓

p < α

Reject H₀

↓

적어도 하나의 Mean Difference Evidence

p ≥ α

Fail to Reject H₀

↓

Mean Difference Evidence 부족

↓

필요 시:

Post Hoc Comparison

↓

어떤 Group이 다른가?

↓

Effect Magnitude + Practical Interpretation

입니다.

흔한 오해 정리

“One-Way는 Group이 한 개라는 뜻이다”

아닙니다.

Factor가 하나라는 뜻입니다.

“세 Group이면 Mean 세 개를 그냥 비교하면 된다”

Sample Mean Difference만으로 Population Difference를 판단할 수 없습니다.

Within-Group Variability를 함께 고려해야 합니다.

“ANOVA는 Variance가 다른지 검정하는 Test다”

아닙니다.

Population Means Equality를 검정하기 위해 Variance를 분해하고 F Ratio를 사용합니다.

“ANOVA가 Significant하면 모든 Group Mean이 서로 다르다”

아닙니다.

적어도 하나의 Population Mean이 다르다는 Evidence입니다.

“ANOVA가 Significant하면 어느 Group이 다른지 알 수 있다”

아닙니다.

Post Hoc Comparison 등이 필요합니다.

“ANOVA가 Non-Significant하면 모든 Population Mean이 정확히 같다”

아닙니다.

H₀를 Reject할 Evidence가 충분하지 않다는 뜻입니다.

“F Value가 크면 무조건 Significant하다”

아닙니다.

Degrees of Freedom과 F Distribution을 고려하여 p-value를 계산해야 합니다.

“Fertilizer Example의 p=.1432이므로 Fertilizer는 아무 영향도 없다”

그렇게 단정할 수 없습니다.

교재에서는 Fertilizer-only Model에서 p=.1432이지만 Blocking Factor인 Sector를 포함한 Model에서는 Fertilizer p=.0162로 달라집니다.

“Model에 Variable을 많이 넣으면 항상 더 좋은 Result가 나온다”

아닙니다.

Study Design과 Scientific Rationale에 따라 Model을 정의해야 합니다.

“ANOVA Result가 나오면 Assumption은 자동으로 만족한다”

아닙니다.

Independence, Residual Normality, Equal Variance를 확인해야 합니다.

“Raw Data가 완벽하게 Normal해야 ANOVA를 사용할 수 있다”

첨부 교재는 Error/Residual Normality를 Diagnostic Plot으로 평가하고 Balanced Design에서는 Severe Departure를 주요 문제로 설명합니다.

“Equal Variance Test p>.05이면 Variance가 완전히 동일하다”

아닙니다.

Equal Variance H₀를 Reject할 Evidence가 부족하다는 의미입니다.

“ANOVA p-value만 보면 Result Interpretation이 끝난다”

아닙니다.

Group Means, Variability, Assumption, Post Hoc Comparison, Effect Magnitude를 함께 봐야 합니다.

SAS Output에서 One-Way ANOVA를 읽는 순서

다음처럼 보면 좋습니다.

1. Number of Observations

Expected N과 Used N 확인

2. Classification Variable

올바른 Factor인가?

3. Factor Levels

예상한 Group이 모두 존재하는가?

4. Group Means / SD

Data Pattern 확인

5. Residual Diagnostics

Normality / Outlier 확인

6. Equal Variance

Homogeneity 확인

7. ANOVA Table

Model / Error / Total 확인

8. F Value

Between / Within Ratio 확인

9. Pr > F

Overall H₀ 평가

10. R-Square

Explained Variation 확인

11. Post Hoc

필요한 Pairwise Comparison 확인

12. Practical Meaning

실제 Importance 판단

입니다.

Fertilizer Example의 Result를 다시 읽어보면

첨부 교재의 One-Way ANOVA Result는:

F = 1.96

p = 0.1432

입니다.

따라서 α=.05에서는:

Fail to Reject

H₀:

모든 Fertilizer Population Mean Bulb Weight가 같다.

입니다.

Model의:

R² = 0.173414

이므로 Fertilizer가 Sample BulbWt Variability의 약 17%를 설명하는 것으로 해석할 수 있지만, 해당 Study에서는 Overall Mean Difference를 Statistical하게 Confirm할 Evidence가 부족합니다.

이 Example은 Effect Explanation과 Statistical Significance가 동일하지 않다는 것도 보여줍니다.

그리고 Sector가 추가되면?

Randomized Block Model에서는:

Overall Model:

F = 5.86

p = 0.0003

그리고:

Fertilizer:

F = 4.31

p = 0.0162

Sector:

F = 6.53

p = 0.0004

입니다.

교재에서는 Sector를 포함하면서 Error Mean Square가 감소하여 Fertilizer Mean Comparison의 Precision이 개선된 점을 설명합니다.

이는 이후 Randomized Block Design에서 매우 중요한 개념입니다.

왜 다음 글에서 F Statistic을 따로 다루는가?

One-Way ANOVA의 전체 Structure를 이해했다면 다음 질문은 자연스럽습니다.

왜 Between-Group Variation을 Within-Group Variation으로 나누는가?

그리고:

왜 F가 커질수록 H₀와 충돌하는 Evidence가 되는가?

입니다.

이 질문을 이해해야 ANOVA Table을 단순히 p-value 찾는 표가 아니라 Statistical Model의 Variation Decomposition으로 읽을 수 있습니다.

핵심 정리

One-Way ANOVA는 하나의 Categorical Factor가 여러 Levels를 가질 때 Continuous Response의 Population Means가 모두 같은지 평가하는 Statistical Method입니다.

첨부 교재에서는 Grouping Variable이 세 개 이상의 Level을 가질 때 모든 Pair에 t-Test를 반복할 수도 있지만, 모든 Data를 동시에 분석하는 보다 강력한 방법으로 One-Way ANOVA를 제시합니다.

기본 Hypothesis는:

H₀

μ₁ = μ₂ = … = μk

입니다.

Alternative는:

모든 Population Means가 같은 것은 아니다.

즉 적어도 하나의 Mean Difference가 존재한다는 것입니다.

ANOVA가 Mean을 비교하면서도 Variance를 사용하는 이유는 Response의 Total Variation을 두 부분으로 나누기 때문입니다.

Between-Group Variation

↓

Model Sum of Squares

↓

Explained Variation

그리고:

Within-Group Variation

↓

Error Sum of Squares

↓

Unexplained Variation

입니다.

첨부 교재는 SSE를 Group 내부 Random Variability, SSM을 Group Means 사이 Variability로 설명합니다.

이 두 Variation을 Degrees of Freedom으로 조정하여 Mean Square를 만들고:

F = Model Mean Square / Error Mean Square

를 계산합니다.

F Statistic은 Group Between Variation이 Within Variation보다 얼마나 큰지 평가합니다.

ANOVA의 Assumption에서는 다음이 중요합니다.

Independence

↓

Study Design으로 확보

Residual Normality

↓

Diagnostic Plot으로 확인

Equal Variances

↓

Statistical Test와 Plot으로 평가

첨부 교재도 이 세 가지 방향을 ANOVA Assumption Review의 핵심으로 제시합니다.

Fertilizer Example에서는:

F = 1.96

p = 0.1432

이므로 α=.05에서 Population Mean Equality H₀를 Reject하지 않습니다.

그러나 같은 Data에서 Blocking Variable인 Sector를 추가하면 Fertilizer Effect가:

F = 4.31

p = 0.0162

로 나타납니다.

이는 ANOVA Result가 단순히 Mean 숫자만의 문제가 아니라 Study Design과 Model이 Error Variation을 얼마나 적절하게 설명하는지에도 영향을 받는다는 중요한 Example입니다.

따라서 One-Way ANOVA를 해석할 때는 단순히:

Pr > F < 0.05인가?

만 확인하면 안 됩니다.

다음 전체 흐름을 봐야 합니다.

Factor와 Levels 확인

↓

Group별 Mean·SD·N 확인

↓

Distribution과 Residual 확인

↓

Equal Variance 확인

↓

ANOVA F Test

↓

Overall p-value

↓

필요 시 Post Hoc Comparison

↓

Effect Magnitude와 Practical Meaning

One-Way ANOVA의 핵심은 여러 평균을 단순히 한 번에 비교하는 것이 아니라, Group 간 Variation과 Group 내 Random Variation을 분리해 “관찰된 Group Mean Difference가 Noise에 비해 충분히 큰가?”를 하나의 Overall Statistical Model에서 평가하는 것입니다.