데이터의 Mean과 Standard Deviation을 계산했더라도 Distribution이 한쪽으로 크게 치우쳐 있거나 일부 Extreme Value가 존재한다면 그 숫자만으로 Data를 정확하게 설명하기 어려울 수 있습니다.

예를 들어 대부분의 사람은 비슷한 수준의 Income을 가지고 있지만 소수의 매우 높은 Income이 포함되어 있다고 가정해보겠습니다.

이 경우 전체 Mean은 소수의 큰 값 때문에 상당히 높아질 수 있습니다.

하지만 Median은 상대적으로 덜 영향을 받습니다.

이처럼 Distribution의 비대칭성과 극단적인 Observation은 Descriptive Statistics뿐 아니라 Correlation, Regression, t-Test, ANOVA 같은 이후의 Statistical Analysis에도 영향을 줄 수 있습니다.

Skewness는 Distribution이 어느 방향으로 비대칭적인지를 나타내고, Extreme Value는 Mean·Variance·Standard Deviation 같은 Statistic을 크게 변화시킬 수 있는 Observation입니다.

첨부 교재의 Picturing Distributions에서도 Data Distribution을 평가할 때 Skewness와 Kurtosis를 사용하며 Histogram, Normal Probability Plot, Box Plot을 통해 Distribution Shape와 Extreme Value를 확인하는 흐름을 설명합니다.

Skewness란 무엇인가?

Skewness는 Distribution의 비대칭성을 나타냅니다.

Data가 Center를 기준으로 왼쪽과 오른쪽에 비슷하게 퍼져 있다면 Symmetric Distribution이라고 할 수 있습니다.

반대로 한쪽 Tail이 다른 쪽보다 길다면 Skewed Distribution입니다.

기본적으로 다음 세 가지 구조로 구분할 수 있습니다.

Symmetric

↓

좌우가 비슷함

Right-Skewed

↓

오른쪽 Tail이 김

Left-Skewed

↓

왼쪽 Tail이 김

첨부 교재에서도 Skewness를 Sample Distribution Shape를 Normal Distribution과 비교하기 위한 Measure로 설명합니다.

Symmetric Distribution이란 무엇인가?

Symmetric Distribution에서는 Center를 기준으로 양쪽 Shape가 비슷합니다.

대표적으로 Normal Distribution을 생각할 수 있습니다.

이 경우 일반적으로:

Mean

≈

Median

이 되는 경향이 있습니다.

예를 들어:

40

45

50

55

60

이라면 Mean과 Median 모두 50입니다.

Distribution도 가운데를 기준으로 비교적 대칭적입니다.

Skewness가 0이면 무엇을 의미할까?

Skewness가 0에 가까우면 Distribution이 대체로 대칭적인 형태일 가능성을 생각할 수 있습니다.

하지만 매우 중요한 점이 있습니다.

Skewness = 0이라고 해서 반드시 Normal Distribution이라는 의미는 아닙니다.

Symmetric하지만 Normal이 아닌 Distribution도 존재합니다.

예를 들어 Flat한 Distribution이나 여러 Peak를 가진 Symmetric Distribution도 가능할 수 있습니다.

따라서 Skewness Statistic 하나만으로 Normality를 판단해서는 안 됩니다.

Right-Skewed Distribution이란 무엇인가?

Right-Skewed Distribution에서는 대부분 Observation이 낮거나 중간 값에 모여 있고 일부 큰 값이 오른쪽으로 긴 Tail을 만듭니다.

다음과 같은 구조입니다.

많은 Observation

██████████

↓

낮은~중간 값

↓

██████

↓

███

↓

█

↓

긴 오른쪽 Tail

대표적인 예로 다음과 같은 Variable을 생각할 수 있습니다.

• Income
• Hospital Stay
• Waiting Time
• Transaction Amount
• 일부 Laboratory Value

Right Skew에서는 Mean과 Median이 어떻게 달라질까?

큰 Extreme Value가 Mean을 오른쪽으로 끌어당길 수 있습니다.

따라서 일반적으로:

Median

<

Mean

형태가 나타날 수 있습니다.

예를 들어:

20

21

22

23

100

을 생각해보겠습니다.

Median은:

22

입니다.

하지만 Mean은:

(20 + 21 + 22 + 23 + 100) / 5

=

37.2

입니다.

대부분 Observation은 20~23에 위치하지만 Mean은 37.2까지 올라갑니다.

Right-Skewed Data에서는 Mean이 전형적인 Observation보다 높은 위치를 나타낼 수 있습니다.

Left-Skewed Distribution은 무엇인가?

Left-Skewed Distribution에서는 대부분 Observation이 높은 값에 몰려 있지만 일부 작은 값이 왼쪽으로 긴 Tail을 만듭니다.

예를 들어 매우 쉬운 시험에서 대부분 학생이 높은 점수를 받았지만 일부 학생만 매우 낮은 점수를 받는 경우를 생각할 수 있습니다.

이 경우 낮은 Extreme Value가 Mean을 아래쪽으로 끌어당길 수 있습니다.

따라서 일반적으로:

Mean

<

Median

형태가 나타날 수 있습니다.

Skewness의 부호는 어떻게 기억하면 쉬울까?

Tail 방향을 보면 됩니다.

Positive Skewness

오른쪽 Tail

↓

Right Skew

Negative Skewness

왼쪽 Tail

↓

Left Skew

즉 많은 Data가 어디에 몰려 있는지가 아니라 긴 Tail이 어느 방향으로 뻗는지를 기준으로 이름을 정합니다.

왜 Right-Skewed라고 부르는데 Data는 왼쪽에 많이 있을까?

초보자가 가장 많이 혼동하는 부분입니다.

Right-Skewed라는 이름은 Observation이 오른쪽에 많이 있다는 뜻이 아닙니다.

긴 Tail이 오른쪽에 있다는 뜻입니다.

예를 들어 Income Distribution에서는 많은 사람이 낮거나 중간 Income에 몰려 있고 소수의 매우 높은 Income 때문에 오른쪽 Tail이 길어집니다.

따라서 Right-Skewed라고 합니다.

Extreme Value란 무엇인가?

Extreme Value는 Distribution에서 대부분 Observation과 크게 떨어져 있는 매우 크거나 매우 작은 값입니다.

예를 들어 Weight가:

65

68

70

72

74

인데 한 Observation이:

180

이라면 180은 다른 값들과 상당히 멀리 떨어져 있습니다.

하지만 이 값이 실제 Data Error인지 단순히 Rare Observation인지는 별도로 확인해야 합니다.

Extreme Value와 Outlier는 완전히 같은 말일까?

실무에서는 비슷하게 사용되는 경우가 많지만 엄밀하게는 Context가 중요합니다.

Extreme Value는 단순히 Distribution의 Tail에서 매우 큰 또는 작은 값을 의미할 수 있습니다.

Outlier는 다른 Observation Pattern과 비교해 비정상적으로 떨어져 있다고 판단되는 Observation을 의미하는 경우가 많습니다.

따라서 모든 Extreme Value를 자동으로 Error라고 생각해서는 안 됩니다.

극단적이라는 것은 드물다는 의미일 수 있지만 잘못되었다는 의미는 아닙니다.

Extreme Value는 어떻게 발생할까?

여러 원인이 있습니다.

실제 Observation

Population에 실제로 존재하는 Rare Case

Data Entry Error

70을 700으로 입력

Unit Error

kg와 lb 혼합

Measurement Error

장비 오류

Coding Error

Missing Code 999를 실제 Numeric Value로 처리

Population Mixture

서로 다른 Subgroup이 하나의 Dataset에 섞임

따라서 Extreme Value를 발견하면 원인을 먼저 확인해야 합니다.

Missing Code가 Extreme Value처럼 보일 수 있는 이유

과거 Dataset에서는 Missing을 다음처럼 Coding하는 경우가 있을 수 있습니다.

99

999

9999

예를 들어 Age에서 Missing을 999로 Coding했는데 이를 실제 Age로 읽으면:

Mean

Standard Deviation

Maximum

이 모두 크게 왜곡됩니다.

따라서 Variable Coding Rule을 확인해야 합니다.

Extreme Value가 Mean에 미치는 영향

Mean은 모든 Observation의 실제 크기를 계산에 사용합니다.

따라서 Extreme Value의 영향을 크게 받습니다.

예를 들어:

10

11

12

13

14

Mean = 12

입니다.

마지막 값을 100으로 바꾸면:

10

11

12

13

100

Mean은:

29.2

가 됩니다.

Observation 하나가 전체 Mean을 크게 변화시켰습니다.

Median은 왜 Extreme Value의 영향을 덜 받을까?

Median은 Observation의 순서를 이용하기 때문입니다.

위 Data:

10

11

12

13

100

에서 Median은 여전히:

12

입니다.

100이:

1000

또는

1,000,000

으로 더 커져도 가운데 위치는 바뀌지 않습니다.

따라서 Median은 Mean보다 Extreme Value에 Robust합니다.

Mean과 Median 차이가 중요한 신호인 이유

예를 들어 SAS Summary에서:

Mean = 78

Median = 50

이라고 나왔다고 가정해보겠습니다.

이 차이는 다음을 확인해야 한다는 신호일 수 있습니다.

• Right Skew가 있는가?
• 매우 큰 Extreme Value가 있는가?
• Unit Error가 있는가?
• Data Coding 오류가 있는가?

즉 Mean과 Median의 Difference 자체가 Distribution Review의 단서가 됩니다.

Extreme Value는 Variance에도 큰 영향을 줄까?

그렇습니다.

Variance는 Mean과 Observation의 Difference를 제곱해서 사용합니다.

예를 들어 Mean에서:

5

떨어진 값과:

50

떨어진 값이 있다고 가정해보겠습니다.

Squared Difference는:

25

와

2500

입니다.

Distance가 10배 커졌지만 Squared Difference는 100배 커졌습니다.

따라서 Extreme Value는 Variance에 매우 큰 영향을 줄 수 있습니다.

Standard Deviation도 커질까?

Variance의 Square Root가 Standard Deviation이므로 Variance가 증가하면 Standard Deviation도 증가합니다.

즉 하나의 Extreme Value가:

Mean

을 이동시키고,

동시에:

Variance

와

Standard Deviation

을 크게 증가시킬 수 있습니다.

왜 Skewed Data에서 Mean ± SD가 오해를 만들 수 있을까?

Mean과 SD는 Symmetric Distribution에서 매우 직관적입니다.

하지만 Right-Skewed Data를 생각해보겠습니다.

Mean = 100

SD = 120

이라면:

Mean – SD = -20

이 됩니다.

그런데 Variable이 Income처럼 음수가 불가능한 Ratio Variable이라면 Mean ± SD가 Distribution의 실제 구조를 직관적으로 설명하기 어려울 수 있습니다.

따라서 Skewed Data에서는:

Median

IQR

을 고려할 수 있습니다.

IQR이 Extreme Value에 덜 민감한 이유

IQR은:

Q3 – Q1

입니다.

즉 전체 Data 가운데 중앙 50%의 Spread를 사용합니다.

Maximum이나 Minimum의 실제 크기에 직접 의존하지 않습니다.

따라서 Tail의 매우 큰 Observation이 IQR을 Range나 SD만큼 강하게 변화시키지 않을 수 있습니다.

Skewed Data의 전형적인 Summary 구조

예를 들어 Hospital Stay가 Right-Skewed되어 있다면 다음과 같이 보고할 수 있습니다.

Median

7 days

Q1

4 days

Q3

12 days

↓

IQR

8 days

그리고 필요하면:

Min–Max

를 추가할 수 있습니다.

이렇게 하면 Typical Patient의 Distribution을 Mean 하나보다 더 잘 보여줄 수 있습니다.

Range는 Extreme Value에 어떻게 영향을 받을까?

Range는:

Maximum – Minimum

이므로 단 하나의 Extreme Value에도 매우 민감합니다.

예를 들어:

10

11

12

13

14

에서는:

Range = 4

입니다.

14가 1000으로 바뀌면:

Range = 990

이 됩니다.

따라서 Range가 갑자기 매우 커졌다면 Maximum과 Minimum을 반드시 확인하는 것이 좋습니다.

Large Range + Small IQR은 무엇을 의미할까?

중앙 50%는 좁게 모여 있지만 Tail에 Extreme Value가 존재할 가능성을 생각할 수 있습니다.

예:

Range = 1000

IQR = 10

이라면:

Most Data

↓

좁은 범위

하지만

Extreme Tail

↓

매우 멀리 존재

하는 Pattern일 수 있습니다.

Box Plot을 확인하면 도움이 됩니다.

Skewness가 Statistic에 미치는 영향

Skewness가 강하면 다음 Statistic들의 관계가 달라질 수 있습니다.

Mean

↓

Tail 방향으로 이동 가능

Median

↓

상대적으로 안정

Standard Deviation

↓

Tail 때문에 증가 가능

Range

↓

Extreme Value에 크게 증가

IQR

↓

상대적으로 안정

따라서 Distribution Shape에 따라 Summary Statistic 선택이 달라져야 합니다.

Skewness와 Extreme Value는 같은 문제일까?

아닙니다.

Skewed Distribution은 Population 자체의 일반적인 Shape일 수 있습니다.

Extreme Value는 Distribution에서 일부 Observation이 다른 값과 멀리 떨어져 있는 상황을 의미할 수 있습니다.

예를 들어 Right-Skewed Income Distribution에는 Extreme Income이 여러 개 존재할 수 있지만 Distribution 전체가 자연스럽게 Right-Skewed일 수도 있습니다.

또 Symmetric Distribution에서도 Extreme Value 하나가 존재할 수 있습니다.

Outlier 하나가 Skewness Statistic을 바꿀 수 있을까?

가능합니다.

Skewness Statistic도 Observation의 값에 영향을 받기 때문에 매우 큰 Extreme Value가 하나 존재하면 Positive Skewness가 증가할 수 있습니다.

따라서 Skewness가 매우 크다면:

Distribution 자체가 Skewed한가?

와

Extreme Observation 몇 개 때문인가?

를 구분할 필요가 있습니다.

Histogram이 중요한 이유

Skewness Statistic 하나만으로는 이 차이를 완전히 구분하기 어렵습니다.

Histogram을 보면:

• 전체가 점진적으로 Right-Skewed인지
• 대부분 Symmetric인데 Extreme Point 하나만 있는지
• 여러 Peak가 있는지

를 확인할 수 있습니다.

첨부 교재에서도 Distribution을 시각적으로 평가하기 위해 Histogram을 사용합니다.

Box Plot은 Extreme Value를 어떻게 보여줄까?

Box Plot은 Q1, Median, Q3와 IQR을 이용해 Distribution을 요약합니다.

일반적으로 Q1과 Q3에서 약 1.5 IQR 범위를 넘어서는 Observation이 개별 Point로 표시될 수 있습니다.

따라서 Box Plot은 Potential Extreme Observation을 빠르게 찾는 데 유용합니다.

첨부 교재도 Box Plot을 Data Variability와 Extreme Data Value를 확인하는 Graph로 설명합니다.

Box Plot에서 Point가 보이면 삭제해야 할까?

아닙니다.

Box Plot에서 Outlier Symbol이 표시되는 것은:

“확인할 필요가 있는 Observation”

이라는 의미입니다.

다음 단계가 필요합니다.

Raw Data 확인

↓

Source 확인

↓

Coding 확인

↓

실제 Observation인가?

↓

Data Error인가?

를 판단해야 합니다.

1.5 IQR Rule은 Error Detection Rule일까?

아닙니다.

통계적인 Outlier Screening Rule입니다.

기본적으로:

IQR = Q3 – Q1

Lower Fence:

Q1 – 1.5×IQR

Upper Fence:

Q3 + 1.5×IQR

을 계산할 수 있습니다.

이 범위를 벗어났다고 해서 반드시 잘못된 Data라는 뜻은 아닙니다.

Extreme Value를 자동 삭제하면 왜 위험할까?

Extreme Value가 연구에서 가장 중요한 Observation일 수도 있기 때문입니다.

예를 들어:

Drug Safety

극단적으로 높은 Laboratory Value

↓

중요한 Safety Signal 가능

Fraud Detection

비정상적으로 큰 Transaction

↓

Fraud Candidate 가능

Manufacturing

극단적인 Measurement

↓

Process Failure Signal 가능

따라서 Extreme Value를 자동으로 삭제하면 중요한 정보를 잃을 수 있습니다.

Data Error인 경우에는 어떻게 해야 할까?

Source Data와 Documentation을 기반으로 수정해야 합니다.

예를 들어 Weight가 700kg으로 입력되어 있지만 Source가 70kg이라면 Data Correction이 필요할 수 있습니다.

중요한 것은 분석자가 임의로:

“이 값은 이상해 보이니까 70으로 바꾸자.”

라고 판단해서는 안 된다는 점입니다.

통계적 이상함은 Data Correction의 근거가 아니라 Data Verification을 시작하는 신호입니다.

Extreme Value가 실제 Observation이라면 어떻게 할까?

그 값을 유지한 상태에서 영향력을 평가할 수 있습니다.

예를 들어:

• Mean vs Median 비교
• Analysis with / without Observation을 Sensitivity Analysis로 비교
• Robust Method 고려
• Transformation 고려

등이 가능합니다.

하지만 실제 분석 계획과 연구 목적에 따라 결정해야 합니다.

Sensitivity Analysis란 무엇인가?

특정 Extreme Observation이 Result를 얼마나 변화시키는지 확인하기 위해 여러 조건에서 분석을 비교하는 접근입니다.

예를 들어:

Main Analysis

모든 Valid Observation 포함

Sensitivity Analysis

특정 Extreme Case 영향을 별도로 평가

를 비교할 수 있습니다.

이 방법은 Extreme Observation의 영향력을 이해하는 데 도움이 됩니다.

Skewed Data를 Log Transformation하면 어떻게 될까?

Right-Skewed Positive Variable에서는 Log Transformation을 고려하는 경우가 있습니다.

예를 들어:

10

20

50

100

1000

을 Log Scale로 바꾸면 매우 큰 값의 상대적인 차이가 줄어들 수 있습니다.

따라서:

• Skewness 감소
• Variance 안정화
• Relationship Linearization

에 도움이 되는 경우가 있습니다.

하지만 항상 적용해야 하는 것은 아닙니다.

Log Transformation은 Outlier 삭제와 같은 것일까?

아닙니다.

Observation을 삭제하지 않고 Scale을 변경하는 것입니다.

즉 Extreme Value도 Dataset에 남아 있지만 숫자 간 상대적인 Distance 구조가 달라집니다.

따라서 Transformation은 Data Removal과 완전히 다릅니다.

Transformation을 하면 해석도 달라질까?

그렇습니다.

원래 Scale에서:

Y

를 분석하던 것을:

log(Y)

로 바꾸면 Regression Coefficient나 Mean Difference의 Interpretation도 달라집니다.

따라서 Distribution을 보기 좋게 만드는 것만을 목적으로 Transformation을 적용해서는 안 됩니다.

Analysis 목적과 Result Interpretation을 함께 고려해야 합니다.

Skewness가 크면 Nonparametric Test를 사용하면 될까?

그렇게 단순하게 결정하면 안 됩니다.

Statistical Method 선택에는 다음이 필요합니다.

• Study Design
• Sample Size
• Response Scale
• Group Structure
• Model Assumption
• Distribution
• Research Question

Skewness는 중요한 정보지만 Method Selection의 유일한 기준은 아닙니다.

Raw Data가 Skewed하면 t-Test를 절대 사용할 수 없을까?

반드시 그렇지 않습니다.

Sample Size와 Group Structure, Outlier 정도 등 여러 조건을 확인해야 합니다.

또 Inferential Procedure에서 중요한 Assumption이 Raw Observation 자체의 Normality인지 Sampling Distribution 또는 Model Error 구조인지 구분해야 합니다.

따라서:

Raw Data Non-Normal

↓

즉시 t-Test 금지

라고 단순화하면 안 됩니다.

ANOVA에서도 같은 원리가 적용될까?

그렇습니다.

ANOVA에서는 Group별 Response Distribution과 Extreme Observation을 확인해야 합니다.

특정 Group에만 Extreme Value가 존재하면:

• Group Mean
• Within-Group Variance
• F Statistic

에 영향을 줄 수 있습니다.

따라서 Group별 Box Plot과 Summary Statistics를 먼저 확인하는 것이 중요합니다.

Extreme Value가 ANOVA F Statistic에 영향을 주는 이유

ANOVA는 Group Mean Difference와 Group 내부 Variability를 비교합니다.

Extreme Observation이 있으면:

Group Mean 이동 가능

Within-Group Variance 증가

가 동시에 발생할 수 있습니다.

따라서 결과가 단순한 방향으로만 바뀌는 것이 아닙니다.

Extreme Value 위치에 따라 ANOVA 결과에 복합적인 영향을 줄 수 있습니다.

Correlation은 Extreme Value에 민감할까?

Pearson Correlation은 Extreme Observation의 영향을 받을 수 있습니다.

예를 들어 대부분 Observation에서는 X와 Y 관계가 없는데 하나의 매우 큰 X와 Y Observation이 존재하면 Correlation이 강하게 나타날 수 있습니다.

따라서 Correlation Coefficient를 확인하기 전에 반드시 Scatter Plot을 확인하는 것이 좋습니다.

Extreme Value 하나가 가짜 Correlation을 만들 수 있을까?

가능합니다.

예를 들어 대부분 Data가:

X = 10~20

Y = 40~60

범위에서 Random하게 퍼져 있다고 가정해보겠습니다.

그런데 Observation 하나가:

X = 500

Y = 1000

이라면 전체 Correlation Coefficient가 크게 증가할 수 있습니다.

하지만 대부분 Population의 Relationship을 제대로 설명한다고 보기 어려울 수 있습니다.

이 주제는 Pearson Correlation 글에서 더 자세히 다룰 수 있습니다.

Regression에서는 Extreme Value가 더 복잡한 이유

Regression에서는 Extreme Observation이 어디에 위치하는지에 따라 영향이 달라집니다.

예를 들어:

Response 방향으로 극단적

↓

Residual Outlier 가능

Predictor 방향으로 극단적

↓

High Leverage 가능

Regression Line을 크게 움직임

↓

Influential Observation 가능

따라서 Regression에서는 단순 “Outlier인가 아닌가”보다 Observation의 Influence를 더 자세히 평가합니다.

Outlier와 Influential Observation은 같은 것일까?

아닙니다.

Response가 매우 극단적이어도 Regression Line에 큰 영향을 주지 않는 Observation이 있을 수 있습니다.

반대로 Predictor 공간에서 매우 멀리 떨어진 Observation은 Residual이 크지 않더라도 Regression Coefficient를 크게 움직일 수 있습니다.

이 차이는 49번 글에서 별도로 다루게 됩니다.

Skewness와 Regression의 관계

Regression에서 Predictor 또는 Response가 Skewed되어 있는지 확인하는 것도 도움이 됩니다.

하지만 Regression Assumption에서는 특히:

Residual Distribution

과

Residual Variance Pattern

이 중요합니다.

따라서 Response가 Skewed하다는 이유만으로 Regression이 자동으로 부적절하다고 판단해서는 안 됩니다.

Raw Distribution과 Residual Distribution은 다르다

Response Y 자체는 Skewed할 수 있습니다.

하지만 Predictor X를 이용해 Modeling한 뒤 남은 Residual이 Model Assumption에 더 적합한 구조를 보일 수도 있습니다.

반대로 Raw Y가 Normal처럼 보여도 Residual Pattern이 문제일 수 있습니다.

따라서:

Data Distribution Review

과

Model Diagnostics

는 서로 연결되지만 동일한 단계는 아닙니다.

Skewness와 Kurtosis는 어떤 차이가 있을까?

Skewness는 좌우 비대칭성을 설명합니다.

Kurtosis는 Distribution의 Tail이나 Peak 특성을 Normal Distribution과 비교하는 데 사용됩니다.

간단하게:

Skewness

↓

좌우 Balance

Kurtosis

↓

Tail / Peak Structure

라고 이해할 수 있습니다.

첨부 교재에서도 이 두 Statistic을 Sample Distribution Shape를 Normal Distribution과 비교하는 Measure로 함께 설명합니다.

Positive Kurtosis는 Extreme Value와 관계가 있을까?

첨부 교재에서는 Positive Kurtosis를 Normal Distribution보다 Extreme Tail Observation이 많거나 Peak가 더 높은 Distribution과 연결하고, Heavy-Tailed 또는 Outlier-Prone Distribution이라고 설명합니다.

즉 Kurtosis가 높다면 Tail Behavior와 Extreme Observation을 추가로 확인할 수 있습니다.

Negative Kurtosis는 무엇을 의미할까?

Normal Distribution보다 Tail Observation이 적거나 Peak가 더 Flat한 형태와 연결될 수 있습니다.

첨부 교재에서는 Rectangular, Bimodal, Multimodal Distribution 등이 Negative Kurtosis를 가질 수 있다고 설명합니다.

다만 Kurtosis는 Visual Interpretation이 쉽지 않기 때문에 Statistic과 Plot을 함께 확인하는 것이 좋습니다.

SAS에서는 Skewness를 어떻게 확인할까?

Distribution Analysis나 Summary 관련 Output에서 Skewness Statistic을 확인할 수 있습니다.

하지만 숫자를 볼 때 다음과 같이 해석하면 좋습니다.

Skewness ≈ 0

↓

Symmetry 가능성

Skewness > 0

↓

Right Tail 확인

Skewness < 0

↓

Left Tail 확인

그 다음 Histogram과 Box Plot을 함께 확인합니다.

Skewness 값에 절대적인 Cutoff가 있을까?

상황마다 다르므로 하나의 숫자를 모든 분석에 적용하는 것은 조심해야 합니다.

예를 들어:

|Skewness| < 특정 값

이면 Normal

이라고 기계적으로 판단하면 안 됩니다.

Sample Size와 Distribution Type, 분석 목적에 따라 해석이 달라질 수 있습니다.

Skewness는 Distribution을 이해하기 위한 정보이지 자동 합격·불합격 판정 숫자가 아닙니다.

Sample Size가 Skewness에 영향을 줄까?

Sample Skewness 역시 Statistic입니다.

따라서 Sample이 달라지면 값도 달라질 수 있습니다.

특히 Sample Size가 작으면 Observation 몇 개의 영향을 크게 받을 수 있습니다.

따라서 작은 Sample에서는 Skewness Statistic만 보는 것보다 Raw Data와 Plot을 함께 보는 것이 더욱 중요합니다.

큰 Sample에서는 아주 작은 Skewness도 중요할까?

Statistically Detection할 수 있다는 것과 Practically Important하다는 것은 다릅니다.

큰 Dataset에서는 매우 작은 Distribution Departure도 숫자로 확인될 수 있습니다.

하지만 실제 Model Result에 중요한 영향을 주는지는 별도로 판단해야 합니다.

이 원리는 이후 Statistical Significance와 Practical Significance의 차이와도 연결됩니다.

Histogram에서 Right Skew를 확인하는 방법

다음 구조를 찾을 수 있습니다.

높은 Frequency

████████████

████████

█████

██

█

↓

오른쪽으로 긴 Tail

즉 많은 Observation이 왼쪽에 있고 작은 Frequency가 오른쪽으로 길게 이어집니다.

이것이 Right-Skewed Pattern입니다.

Histogram에서 Left Skew는?

반대 구조입니다.

왼쪽으로 긴 Tail

↓

█

██

████

████████

████████████

↓

많은 Observation이 높은 값 쪽에 위치

하는 Pattern입니다.

Histogram과 Box Plot 결과가 다르게 느껴질 수 있을까?

가능합니다.

Histogram은 Bin 설정의 영향을 받습니다.

Box Plot은 Quartile과 IQR에 기반한 Summary입니다.

따라서 한 Graph에서 잘 보이지 않는 Pattern이 다른 Graph에서 더 명확할 수 있습니다.

두 Graph를 함께 사용하는 이유입니다.

Normal Probability Plot도 도움이 될까?

첨부 교재에서는 Normal Probability Plot을 이용해 실제 Distribution이 Normal Reference Pattern에서 어떻게 벗어나는지 확인합니다.

Right Skew, Left Skew, Heavy Tail 같은 Pattern이 Reference Line에서 서로 다른 형태로 나타날 수 있습니다.

따라서 Histogram과 함께 사용하면 Distribution Shape를 더 잘 이해할 수 있습니다.

Data Distribution이 Skewed한데 Mean을 보고해야 하는 상황도 있을까?

있을 수 있습니다.

Research Question이나 Reporting Standard가 Mean에 초점을 맞추는 경우가 있습니다.

예를 들어 Economic Cost처럼 Total과 Arithmetic Average가 중요한 상황에서는 Mean 자체가 의미 있는 Statistic일 수 있습니다.

이 경우 Median과 IQR을 함께 제시하면 Distribution 특성을 추가로 보여줄 수 있습니다.

즉 Skewed Data라고 해서 Mean이라는 Statistic이 존재할 이유가 사라지는 것은 아닙니다.

Mean과 Median을 함께 보고하는 장점

예를 들어:

Mean Hospital Stay = 12.5 days

Median = 7 days

라고 하면:

Mean > Median

이라는 차이를 통해 Right Skew 가능성을 쉽게 이해할 수 있습니다.

단순히 Mean 12.5만 보고하는 것보다 훨씬 풍부한 정보를 제공합니다.

Extreme Value를 표시한 Raw Plot이 유용한 이유

Sample Size가 크지 않다면 Individual Observation이 보이는 Dot Plot이나 Scatter Plot도 매우 유용합니다.

Summary Statistic은 Observation을 압축하지만 Raw Plot은 어떤 값이 실제로 존재하는지 보여줍니다.

특히 Extreme Value가 한두 개인지 Tail 전체가 긴지를 구분할 수 있습니다.

Skewed Distribution에서 Percentile이 유용한 이유

Percentile은 Rank 기반이므로 Extreme Value의 크기에 덜 민감합니다.

예를 들어 Income Data에서:

10th Percentile

Median

90th Percentile

을 보면 Lower, Center, Upper Distribution을 모두 이해할 수 있습니다.

Mean 하나보다 Income Inequality 구조를 더 풍부하게 설명할 수 있습니다.

Floor Effect도 Skewness와 연결될 수 있을까?

Scale Minimum에 Observation이 많이 몰려 있다면 Distribution이 한쪽으로 치우칠 수 있습니다.

예를 들어 Score Range가 0~100인데 대부분 값이 0~10에 몰려 있다면 오른쪽 방향으로 Tail이 형성될 수 있습니다.

이 경우 Right-Skewed Pattern과 Floor Effect를 함께 고려할 수 있습니다.

Ceiling Effect는?

Scale Maximum 근처에 Observation이 많이 몰려 있으면 낮은 값 방향으로 Tail이 생길 수 있습니다.

예를 들어 매우 쉬운 시험에서 대부분 95~100점을 받고 일부 낮은 Score만 존재한다면 Left-Skewed 형태가 나타날 수 있습니다.

따라서 Skewness가 Measurement Scale Boundary와 관련될 수도 있습니다.

Truncated Data도 Skewness를 바꿀 수 있을까?

가능합니다.

예를 들어 Study Inclusion Criteria 때문에:

Age ≥ 65

만 포함한다면 원래 Population의 Age Distribution 일부가 잘립니다.

따라서 Sample Distribution Shape는 전체 Population과 다르게 나타날 수 있습니다.

즉 Skewness를 해석할 때 Study Design도 확인해야 합니다.

Data Filtering 전후 Skewness가 달라질 수 있다

전체 Dataset에서는 Symmetric했던 Variable이 특정 Subgroup에서는 Skewed할 수 있습니다.

또 특정 Group을 제외하면 Distribution이 크게 달라질 수 있습니다.

따라서 Summary Statistic을 비교할 때 어떤 Analysis Population을 사용했는지 확인해야 합니다.

Extreme Value가 Group 하나에만 있으면?

Group Comparison에서 문제가 될 수 있습니다.

예를 들어:

Treatment A

↓

Extreme Value 없음

Treatment B

↓

매우 큰 Extreme Value 1개

라면 Treatment B Mean과 SD가 크게 증가할 수 있습니다.

그 결과 Mean Difference가 Group 전체 특성이 아니라 Observation 하나에 의해 만들어질 수 있습니다.

Box Plot과 Individual Data Review가 중요합니다.

Skewness와 Sample Size를 함께 봐야 하는 이유

작은 Sample에서는 한두 Observation 때문에 Distribution Shape가 크게 달라질 수 있습니다.

큰 Sample에서는 전체 Population Shape가 더 안정적으로 드러날 수 있습니다.

따라서 같은 Skewness 값이라도:

n = 10

과

n = 10,000

에서 해석의 안정성이 같다고 볼 수 없습니다.

SAS에서 이상한 Skewness를 발견하면 무엇을 확인할까?

다음 순서를 사용할 수 있습니다.

1. N 확인

↓

2. Minimum / Maximum 확인

↓

3. Mean / Median 비교

↓

4. Q1 / Q3 확인

↓

5. Histogram 확인

↓

6. Box Plot 확인

↓

7. Extreme Observation 확인

↓

8. Unit / Coding / Missing Rule 확인

↓

9. 실제 Population 특성인지 판단

이 흐름은 Skewness 숫자 하나를 바로 해석하는 것보다 훨씬 안전합니다.

SAS에서 Extreme Value를 발견했다고 자동으로 제거할까?

SAS는 Procedure에 따라 계산 가능한 Observation을 사용하여 Result를 생성합니다.

통계적으로 Extreme하다는 이유만으로 분석자가 의도하지 않은 Observation을 자동 삭제해준다고 생각해서는 안 됩니다.

따라서 Analyst가 직접 Data와 Output을 검토해야 합니다.

Statistical Software가 Extreme Value의 의미를 알 수 없는 이유

Software는:

500

이라는 값이 큰 숫자라는 것은 계산할 수 있습니다.

하지만 그것이:

실제 매우 큰 Income

인지,

50을 잘못 입력한 것

인지,

Unit가 다른 것

인지 알 수 없습니다.

이 정보는 Data Context와 Source가 필요합니다.

왜 Descriptive Statistics가 Model보다 먼저 와야 할까?

Extreme Value나 Skewness를 확인하지 않고 바로 Regression을 실행하면 Model은 계산될 수 있습니다.

하지만 Result가:

• 실제 Relationship
• Data Error
• Extreme Observation

중 무엇에 의해 만들어졌는지 파악하기 어려울 수 있습니다.

따라서 기본 흐름은:

Data

↓

Descriptive Statistics

↓

Distribution

↓

Skewness / Extreme Value 확인

↓

Statistical Model

이어야 합니다.

Skewness와 Extreme Value가 Confidence Interval에 미칠 수 있는 영향

Confidence Interval for Mean은 Sample Mean과 Standard Error를 이용합니다.

Extreme Value가 Mean과 SD를 크게 증가시키면 Confidence Interval에도 영향을 줄 수 있습니다.

따라서 Mean에 대한 Inference를 수행하기 전에 Sample Distribution을 확인해야 합니다.

p-value도 Extreme Value의 영향을 받을 수 있을까?

가능합니다.

Extreme Value는:

• Mean
• Variance
• Regression Coefficient
• Standard Error

등에 영향을 줄 수 있습니다.

p-value는 이러한 Statistic을 기반으로 계산되므로 결과도 달라질 수 있습니다.

따라서 p-value 자체만 보는 것이 아니라 Data와 Model Diagnostics를 확인해야 합니다.

Extreme Value를 제거하면 p-value가 좋아졌다면 삭제해도 될까?

아닙니다.

p-value를 원하는 방향으로 만들기 위해 Observation을 제거하는 것은 적절하지 않습니다.

Observation 제외에는 사전에 정의된 Rule이나 객관적인 Data Quality 근거가 필요합니다.

Statistical Result가 좋아지는지는 Data Exclusion의 정당한 기준이 될 수 없습니다.

Skewness를 줄이기 위해 Category로 나누면 될까?

Continuous Variable을 Category로 변환하면 Distribution 문제를 단순화할 수 있어 보입니다.

예를 들어 Income을:

Low

Middle

High

로 나누는 것입니다.

하지만 Continuous Information을 잃게 됩니다.

또 Cutoff 선택에 따라 Result가 달라질 수 있습니다.

따라서 Skewness 때문에 자동으로 Categorization하는 것은 좋은 해결책이 아닐 수 있습니다.

Rank-based Method가 도움이 되는 경우

Skewed Data에서 Observation의 실제 Difference보다 Rank를 활용하는 Statistical Method를 고려하는 경우가 있습니다.

Rank는 Extreme Value의 실제 크기에 덜 영향을 받기 때문에 Robustness 측면에서 장점이 있을 수 있습니다.

하지만 Study Design과 Research Question에 맞는지 확인해야 합니다.

Mean이 Statistical Question의 핵심이라면 Median으로 바꾸면 안 되는 이유

예를 들어 연구 질문이 명확하게:

Population Mean Cost는 얼마인가?

라면 Skewness가 있다고 해서 Median만 계산하면 원래 질문에 답하지 못할 수 있습니다.

따라서 Statistic Selection은 Distribution뿐 아니라 Research Estimand에 의해 결정되어야 합니다.

Skewness를 해석할 때 가장 중요한 원칙

Skewness Statistic 자체를 목표로 삼지 않는 것입니다.

목표는:

“Skewness를 0으로 만들어야 한다.”

가 아닙니다.

올바른 질문은:

이 Distribution Shape가 Data와 Statistical Analysis에 어떤 의미를 가지는가?

입니다.

Extreme Value를 해석할 때 가장 중요한 원칙

마찬가지입니다.

목표는:

“Outlier를 모두 없애야 한다.”

가 아닙니다.

다음 질문이 필요합니다.

이 Observation은 왜 Extreme한가?

그리고:

이 Observation이 Result에 어떤 영향을 주는가?

입니다.

Skewness와 Extreme Value의 전체 구조

전체 과정을 정리하면 다음과 같습니다.

Continuous Data

↓

Summary Statistics

↓

Mean

Median

SD

IQR

Min / Max

↓

Distribution 확인

↓

Histogram

Box Plot

Probability Plot

↓

Skewness?

Symmetric

Right-Skewed

Left-Skewed

↓

Extreme Value?

Yes / No

↓

Source / Coding / Unit 확인

↓

Valid Observation인가?

↓

Yes

↓

Distribution 특성으로 반영

↓

적절한 Summary / Model 선택

또는:

No

↓

Data Verification / Correction Process

↓

Statistical Analysis

흔한 오해 정리

“Skewness가 있으면 Data가 잘못된 것이다”

아닙니다.

Population 자체가 자연스럽게 Skewed할 수 있습니다.

“Positive Skew는 Data가 왼쪽으로 치우친다는 뜻이므로 Left Skew다”

아닙니다.

이름은 Tail 방향을 기준으로 합니다. Positive Skew는 오른쪽 Tail이 긴 Right-Skewed Distribution입니다.

“Right-Skewed Data에서는 대부분 Observation이 오른쪽에 있다”

반드시 그렇지 않습니다.

대부분 값은 왼쪽 또는 중앙에 있고 오른쪽 Tail이 길 수 있습니다.

“Extreme Value는 모두 Data Error다”

아닙니다.

실제 Rare Observation일 수 있습니다.

“Box Plot에서 Outlier로 표시되면 삭제해야 한다”

아닙니다.

Potential Outlier를 확인하라는 신호입니다.

“Mean이 Median보다 크면 반드시 Error가 있다”

아닙니다.

Right-Skewed Distribution의 자연스러운 결과일 수 있습니다.

“Skewed Data에서는 Mean을 계산하면 안 된다”

아닙니다.

Research Question에 따라 Mean 자체가 중요한 Statistic일 수 있습니다.

“Median은 Extreme Value의 영향을 전혀 받지 않는다”

Mean보다 훨씬 덜 민감하지만 Data 구성과 순서가 변하면 Median도 달라질 수 있습니다.

“Skewness가 0이면 Normal Distribution이다”

아닙니다.

Symmetric하지만 Normal이 아닌 Distribution도 존재할 수 있습니다.

“Transformation을 하면 Data 문제가 해결된다”

항상 그렇지 않습니다.

Data Error는 Verification과 Correction이 필요하며 Transformation은 Statistical Scale을 바꾸는 방법입니다.

“Outlier를 제거한 뒤 p-value가 좋아졌으니 제거가 맞다”

아닙니다.

Data Exclusion은 Statistical Significance가 아니라 객관적인 Rule과 Data Validity에 근거해야 합니다.

SAS에서 Distribution 문제를 확인하는 기본 흐름

첨부 교재의 Distribution Analysis 흐름을 바탕으로 다음처럼 정리할 수 있습니다.

Summary Statistics

↓

Mean

Median

SD

Quartile

Min / Max

↓

Skewness / Kurtosis

↓

Distribution Shape 숫자로 평가

↓

Histogram

↓

전체 Shape 확인

↓

Normal Probability Plot

↓

Normal Reference와 비교

↓

Box Plot

↓

IQR 및 Potential Extreme Value 확인

↓

Raw Data Review

↓

필요한 경우 Statistical Method 검토

첨부 교재에서는 Distribution을 평가하기 위한 Graphical Display와 Shape Statistic을 함께 사용하도록 구성하고 있습니다.

왜 이 개념을 이해해야 할까?

Skewness와 Extreme Value는 이후 거의 모든 Statistical Analysis에 연결됩니다.

Mean / SD

↓

Extreme Value 영향

Confidence Interval

↓

Mean과 SE 변화

t-Test

↓

Mean Difference와 Variance 영향

ANOVA

↓

Group Mean과 Within-Group Variability 영향

Correlation

↓

Extreme Observation이 Association 왜곡 가능

Regression

↓

Coefficient와 Regression Line 영향 가능

Regression Diagnostics

↓

Outlier / Leverage / Influence 평가

즉 Distribution Shape와 Extreme Value를 제대로 확인하지 않으면 이후 Model Result를 잘못 해석할 수 있습니다.

핵심 정리

Skewness는 Distribution의 비대칭성을 나타냅니다.

기본적으로:

Skewness ≈ 0

↓

Symmetric 가능

Positive Skewness

↓

Right-Skewed

↓

오른쪽 Tail이 김

Negative Skewness

↓

Left-Skewed

↓

왼쪽 Tail이 김

으로 이해할 수 있습니다.

첨부 교재에서도 Skewness와 Kurtosis를 실제 Sample Distribution Shape를 Normal Distribution과 비교하기 위한 Statistic으로 제시하고 있습니다.

특히 Extreme Value가 존재하면:

Mean

↓

Tail 방향으로 이동 가능

Variance / SD

↓

크게 증가 가능

Range

↓

매우 크게 증가 가능

반면:

Median / IQR

↓

상대적으로 영향이 작음

이라는 차이가 나타날 수 있습니다.

따라서 Distribution이 Skewed하거나 Extreme Value가 존재하는 경우에는 Mean과 Standard Deviation만 보는 것이 아니라 Median, Quartile, IQR, Minimum, Maximum을 함께 확인해야 합니다.

또 Histogram, Box Plot, Normal Probability Plot 같은 Visualization을 통해 Skewness가 Distribution 전체의 특성인지 일부 Extreme Observation에 의해 만들어진 것인지 확인하는 것이 중요합니다.

가장 중요한 원칙은 다음과 같습니다.

Skewness와 Extreme Value의 목적은 Data를 제거하거나 Normal Distribution으로 강제로 바꾸는 것이 아니라, 현재 Data의 실제 구조를 이해하고 그 구조에 맞는 Summary와 Statistical Model을 선택하는 것입니다.

좋은 분석은 이상한 값을 없애는 데서 시작하지 않습니다.

왜 그런 값과 Distribution이 나타났는지를 확인하는 것에서 시작합니다.

함께 읽으면 좋은 글

• Descriptive Statistics의 목적: 본격적인 분석 전에 데이터를 진단해야 하는 이유
• Mean·Median·Mode의 차이: 데이터 분포에 따라 중심값을 선택하는 기준
• Range와 Interquartile Range의 차이: 이상치 영향을 줄여 산포를 측정하는 방법
• Distribution을 먼저 확인해야 하는 이유: 데이터의 위치·산포·형태를 점검하는 과정
• Outlier와 Influential Observation의 차이: 극단값과 영향력 있는 관측값을 구분하는 방법

참고한 자료

• SAS Enterprise Guide: ANOVA, Regression, and Logistic Regression Course Notes
• Introduction to Statistics
• Picturing Distributions
• Skewness and Kurtosis
• Histograms
• Normal Probability Plots
• Box Plots
• Distribution Analysis