Descriptive Statistics의 목적: 본격적인 분석 전에 데이터를 진단해야 하는 이유
통계분석을 시작하면 많은 사람이 가장 먼저 p-value나 Regression Coefficient를 확인하려고 합니다.
하지만 실제 분석에서는 그 전에 반드시 해야 할 단계가 있습니다.
바로 Descriptive Statistics, 즉 기술통계를 통해 Data 자체를 먼저 이해하는 과정입니다.
Descriptive Statistics의 목적은 단순히 평균과 표준편차를 계산하는 것이 아니라, 본격적인 Inferential Analysis 전에 Data의 중심·산포·분포 형태·이상값·입력 오류를 점검하는 데 있습니다.
첨부 교재에서도 Inferential Statistics를 수행하기 전에 Sample Data를 먼저 Explore하고 Describe해야 하며, unusual value, spread, shape, extreme value 등을 확인하는 과정이 중요하다고 설명합니다.
Descriptive Statistics란 무엇인가?
Descriptive Statistics는 현재 가지고 있는 Data의 특징을 요약하고 설명하는 방법입니다.
대표적으로 다음과 같은 값을 확인할 수 있습니다.
- Mean
- Median
- Mode
- Minimum
- Maximum
- Range
- Variance
- Standard Deviation
- Quartile
- Percentile
- Frequency
- Percentage
그리고 숫자뿐 아니라 다음과 같은 Visualization도 함께 사용할 수 있습니다.
- Histogram
- Box Plot
- Bar Chart
- Scatter Plot
즉 Descriptive Statistics는 Data를 한눈에 이해할 수 있는 형태로 압축해서 보여주는 과정입니다.
왜 바로 Hypothesis Test를 하면 안 될까?
Data에 오류가 존재할 수 있기 때문입니다.
예를 들어 Age Data가 다음과 같다고 가정해보겠습니다.
65
71
68
74
710
마지막 값 710이 실제 Age일 가능성은 거의 없습니다.
Data Entry Error라면 Mean과 Standard Deviation을 크게 왜곡할 수 있습니다.
이 상태에서 t-Test나 Regression을 바로 수행하면 계산 자체는 정상적으로 실행될 수 있지만 분석 결과는 잘못될 수 있습니다.
즉:
잘못된 Data
↓
정확한 Statistical Procedure 실행
↓
정확하게 계산된 잘못된 Result
가 만들어질 수 있습니다.
통계모형이 정교할수록 Data Quality 문제를 자동으로 해결해준다고 생각해서는 안 됩니다.
Descriptive Statistics는 Data Quality Check이기도 하다
기술통계는 단순한 Summary Table이 아닙니다.
예를 들어 Minimum과 Maximum을 확인하면 불가능한 값을 빠르게 발견할 수 있습니다.
Blood Pressure가:
Minimum = 40
Maximum = 2,500
이라고 나오면 Maximum Value를 다시 확인해야 할 수 있습니다.
Age가:
Minimum = -5
라면 역시 Coding이나 입력 오류 가능성을 검토해야 합니다.
즉 기술통계는:
Data Summary
와 동시에
Data Validation
역할을 할 수 있습니다.
분석 전에 무엇을 확인해야 할까?
첨부 교재의 흐름을 바탕으로 보면 Data를 먼저 다음 관점에서 살펴볼 수 있습니다.
1. Center
Data의 중심이 어디에 있는가?
2. Spread
값들이 얼마나 퍼져 있는가?
3. Shape
Distribution의 형태가 어떤가?
4. Unusual Value
예상하지 못한 값이 있는가?
5. Extreme Value
극단적으로 크거나 작은 Observation이 있는가?
이 다섯 요소만 확인해도 Data에 대한 이해가 크게 달라집니다.
Center란 무엇인가?
Center는 Data가 대략 어느 위치에 집중되어 있는지를 의미합니다.
대표적인 측정값은 다음과 같습니다.
- Mean
- Median
- Mode
예를 들어 Score가:
70
72
74
76
78
이라면 Data의 중심은 약 74 부근입니다.
하지만 어떤 중심 통계량을 사용할지는 Data의 Measurement Scale과 Distribution에 따라 달라질 수 있습니다.
Mean은 무엇을 알려줄까?
Mean은 모든 값을 더한 뒤 Observation 수로 나눈 산술평균입니다.
예를 들어:
60
70
80
의 Mean은:
70
입니다.
Mean은 Continuous Data의 중심을 요약할 때 매우 자주 사용됩니다.
하지만 Extreme Value의 영향을 받을 수 있다는 특징이 있습니다.
Mean이 왜 Outlier에 민감할까?
다음 Data를 생각해보겠습니다.
50
52
54
56
58
Mean은:
54
입니다.
그런데 마지막 값이:
580
으로 잘못 입력되었다면 Mean은 크게 증가합니다.
즉 모든 Observation의 실제 값을 계산에 사용하는 Mean은 극단값에 민감합니다.
따라서 Mean을 확인할 때는 반드시:
- Minimum
- Maximum
- Distribution
- Outlier
를 함께 보는 것이 좋습니다.
Median은 무엇을 알려줄까?
Median은 Data를 크기 순서로 정렬했을 때 가운데 위치한 값입니다.
예를 들어:
10
20
30
40
50
의 Median은:
30
입니다.
Median은 값의 위치를 이용하므로 매우 큰 Extreme Value가 하나 존재해도 Mean보다 영향을 덜 받을 수 있습니다.
따라서 Skewed Distribution에서는 Median이 중심을 더 잘 설명하는 경우가 있습니다.
Mode는 언제 사용할까?
Mode는 가장 자주 관찰되는 값입니다.
예를 들어 Blood Type이:
A
A
B
O
A
라면 Mode는 A입니다.
Mode는 Nominal Variable에서도 사용할 수 있다는 점이 중요합니다.
즉 Measurement Scale에 따라 적절한 중심 통계량이 달라질 수 있습니다.
Center 하나만 보면 왜 부족할까?
두 Dataset의 Mean이 같아도 실제 Data 구조는 완전히 다를 수 있습니다.
예를 들어:
Dataset A
98
99
100
101
102
Dataset B
0
50
100
150
200
두 Dataset의 Mean은 모두 100입니다.
하지만 변동성은 전혀 다릅니다.
따라서 Mean만으로 Data를 설명할 수 없습니다.
Center는 Data가 어디에 있는지를 알려주지만, Data가 얼마나 퍼져 있는지는 알려주지 않습니다.
Spread란 무엇인가?
Spread는 Data가 중심 주변에서 얼마나 넓게 퍼져 있는지를 의미합니다.
대표적인 통계량은 다음과 같습니다.
- Range
- Variance
- Standard Deviation
- Interquartile Range
예를 들어 두 Group의 Mean이 모두 70이라고 해도 한 Group은 68~72에 몰려 있고 다른 Group은 30~110에 넓게 퍼져 있을 수 있습니다.
이 차이를 이해하려면 Spread가 필요합니다.
Range란 무엇인가?
Range는 Maximum과 Minimum의 차이입니다.
예를 들어:
Minimum = 40
Maximum = 90
이라면:
Range = 50
입니다.
매우 직관적인 지표이지만 단 두 개의 값만 사용하므로 Extreme Value에 매우 민감합니다.
Standard Deviation은 무엇을 의미할까?
Standard Deviation은 Data가 Mean 주변에서 얼마나 퍼져 있는지를 나타내는 대표적인 통계량입니다.
예를 들어:
Mean = 70
SD = 3
과
Mean = 70
SD = 20
은 중심은 같지만 두 번째 Dataset이 훨씬 큰 변동성을 가집니다.
따라서 Mean과 Standard Deviation을 함께 제시하면 Data의 Location과 Variability를 동시에 설명할 수 있습니다.
Variance와 Standard Deviation은 어떤 관계일까?
Variance는 Mean에서 떨어진 정도를 제곱하여 평균적인 변동성을 표현합니다.
Standard Deviation은 Variance의 Square Root입니다.
Variance는 통계모형 계산에서 매우 중요하지만 단위가 제곱되기 때문에 실제 해석에서는 Standard Deviation이 더 직관적인 경우가 많습니다.
예를 들어 Height가 cm라면:
Variance 단위 = cm²
Standard Deviation 단위 = cm
입니다.
Shape란 무엇인가?
Shape는 Data Distribution이 어떤 모습으로 퍼져 있는지를 의미합니다.
예를 들어 Distribution은 다음과 같은 형태를 가질 수 있습니다.
- Symmetric
- Right-Skewed
- Left-Skewed
- Bimodal
- Heavy-Tailed
단순 Mean과 Standard Deviation만으로는 이러한 형태를 완전히 파악하기 어렵습니다.
따라서 Histogram이나 Box Plot 같은 Visualization이 필요합니다.
Symmetric Distribution이란 무엇인가?
Distribution이 중심을 기준으로 좌우가 비슷한 형태를 가진 경우입니다.
예를 들어 정상적인 Measurement Data 중 일부는 대략 Bell-Shaped Pattern을 보일 수 있습니다.
Symmetric Distribution에서는 Mean과 Median이 서로 비슷하게 나타나는 경우가 많습니다.
Right-Skewed Distribution이란 무엇인가?
대부분의 Observation은 낮은 값에 모여 있지만 일부 매우 큰 값 때문에 오른쪽 Tail이 길게 늘어지는 Distribution입니다.
대표적으로 다음과 같은 Data에서 볼 수 있습니다.
- Income
- Hospital Stay
- Transaction Amount
- 일부 Biomarker
Right-Skewed Distribution에서는 Mean이 큰 값의 영향을 받아 Median보다 높아질 수 있습니다.
Left-Skewed Distribution은 무엇인가?
반대로 대부분의 값이 높은 쪽에 몰려 있고 일부 작은 값이 왼쪽으로 긴 Tail을 만드는 형태입니다.
이 경우 Mean이 낮은 Extreme Value의 영향을 받아 Median보다 낮아질 수 있습니다.
따라서 Skewness Direction을 보면 Mean과 Median의 관계를 이해하는 데 도움이 됩니다.
왜 Distribution Shape를 확인해야 할까?
여러 Statistical Method는 Data Distribution이나 Model Residual에 대한 Assumption을 가질 수 있습니다.
예를 들어 매우 Skewed한 Data를 단순 Mean만으로 요약하면 실제 Typical Observation을 잘 설명하지 못할 수 있습니다.
또 Extreme Value가 Statistical Test나 Regression에 큰 영향을 줄 수 있습니다.
따라서:
Descriptive Statistics
↓
Distribution 확인
↓
Statistical Method 선택
의 순서가 중요합니다.
Histogram은 무엇을 보여줄까?
Histogram은 Continuous Variable의 Distribution을 일정한 구간으로 나누어 Frequency를 보여줍니다.
이를 통해 다음을 확인할 수 있습니다.
- Center
- Spread
- Skewness
- Multiple Peak
- Extreme Value
- 빈 구간
예를 들어 Score Histogram이 한쪽으로 크게 치우쳐 있다면 단순 Mean만 보는 것보다 Distribution을 더 정확히 이해할 수 있습니다.
Box Plot은 무엇을 보여줄까?
Box Plot은 Median과 Quartile을 중심으로 Distribution을 요약합니다.
일반적으로 다음 정보를 볼 수 있습니다.
- Median
- Q1
- Q3
- Interquartile Range
- Potential Outlier
특히 여러 Group의 Distribution을 비교할 때 유용합니다.
예를 들어 Treatment A와 B의 Outcome을 Box Plot으로 보면 Mean뿐 아니라 Spread와 Outlier 구조까지 비교할 수 있습니다.
Summary Table과 Plot을 함께 봐야 하는 이유
Summary Statistics만 보면 Distribution Shape를 놓칠 수 있습니다.
반대로 Plot만 보면 정확한 수치를 확인하기 어렵습니다.
따라서 다음 두 가지를 함께 사용하는 것이 좋습니다.
Numeric Summary
Mean
Median
SD
Quartile
↓
Graphical Summary
Histogram
Box Plot
↓
Data Understanding
입니다.
좋은 Descriptive Analysis는 Table과 Visualization 중 하나를 선택하는 것이 아니라 서로 보완해서 사용하는 것입니다.
Unusual Value란 무엇인가?
Unusual Value는 Data의 일반적인 범위나 정의와 맞지 않는 값을 의미할 수 있습니다.
예를 들어 Gender Code가:
0
1
만 있어야 하는데:
9
가 존재한다면 확인이 필요합니다.
Age 범위가:
18~90
이어야 하는데:
999
가 있다면 역시 이상합니다.
이 값이 진짜 Observation인지 Special Missing Code인지 Data Error인지 확인해야 합니다.
Extreme Value와 Data Error는 같은 것일까?
아닙니다.
극단적인 값이 있다고 해서 자동으로 잘못된 Data라고 판단하면 안 됩니다.
예를 들어 Income 10억 원이 매우 드문 값일 수 있지만 실제 Observation일 수도 있습니다.
반면 Age 700은 명백한 입력 오류일 가능성이 높습니다.
따라서:
Extreme
≠
Error
입니다.
먼저 Source Data와 Definition을 확인해야 합니다.
Outlier를 무조건 삭제하면 안 되는 이유
Outlier가 Statistical Result에 영향을 줄 수 있다는 이유만으로 자동으로 삭제하면 안 됩니다.
Outlier에는 다음 가능성이 있습니다.
- Data Entry Error
- Measurement Error
- 실제로 존재하는 Rare Observation
- 다른 Population에서 온 Observation
- 중요한 Scientific Signal
따라서 삭제 여부는 Data Verification과 분석 목적에 근거해야 합니다.
Outlier Detection은 Outlier Deletion과 같은 의미가 아닙니다.
Missing Value도 Descriptive Analysis에서 확인해야 한다
Dataset의 N이 1,000이라고 해도 모든 Variable에 1,000개의 값이 존재한다는 의미는 아닙니다.
예를 들어:
Age Missing = 10명
Weight Missing = 40명
Outcome Missing = 100명
일 수 있습니다.
따라서 Variable별 N과 Missing Count를 확인해야 합니다.
특히 Inferential Model에서는 필요한 Variable 중 하나라도 Missing이면 실제 Analysis N이 줄어들 수 있습니다.
Missing Rate를 왜 확인해야 할까?
Missing이 매우 적다면 결과에 큰 영향을 주지 않을 수도 있습니다.
하지만 특정 Variable에서 Missing Rate가 40%라면 Model Interpretation에 큰 영향을 줄 수 있습니다.
또 Missing이 특정 Group에 집중되어 있다면 Random Missing이 아닐 가능성을 고려해야 합니다.
따라서 Descriptive Analysis에는:
- Missing N
- Missing %
- Group별 Missing Pattern
도 포함될 수 있습니다.
Frequency Table은 어떤 Variable에서 중요할까?
Categorical Variable에서는 Mean보다 Frequency와 Percentage가 중요합니다.
예를 들어 Treatment Group이:
Placebo = 100명
Drug A = 100명
Drug B = 10명
이라면 Drug B가 매우 작은 Group이라는 것을 바로 확인할 수 있습니다.
이 정보는 이후 ANOVA나 Regression Model의 Stability에도 영향을 줄 수 있습니다.
Category Coding Error는 어떻게 발견할까?
Frequency Table을 만들면 예상하지 못한 Category를 발견할 수 있습니다.
예를 들어 Region이:
Korea
China
USA
만 있어야 하는데:
KOR
Korea
China
USA
가 따로 존재한다면 같은 Korea가 두 Category로 나뉘었을 수 있습니다.
또:
Male
male
M
처럼 Coding이 일관되지 않을 수도 있습니다.
따라서 Frequency Table은 Categorical Data Quality Check의 기본 도구입니다.
Duplicate Observation은 기술통계에서 발견할 수 있을까?
단순 Mean만으로는 발견하기 어렵습니다.
하지만 Identifier Frequency나 Observation Count를 확인하면 Duplicate 가능성을 탐색할 수 있습니다.
예를 들어 SubjectID가 한 번씩만 나타나야 하는데 특정 ID가 여러 번 나타난다면 Study Design에 따라 확인이 필요합니다.
따라서 Descriptive Statistics는 단순 Summary Measure보다 넓게 초기 Data Exploration 과정으로 이해하는 것이 좋습니다.
Sample Size를 먼저 확인해야 하는 이유
분석의 가장 기본적인 숫자는 N입니다.
Expected Sample Size가 500인데 실제 Data에는 430명만 존재한다면 통계분석 전에 원인을 확인해야 합니다.
가능한 이유는:
- Missing
- Filter
- Eligibility Exclusion
- Import Error
- Data Update 차이
등입니다.
분석 결과의 숫자를 보기 전에 무엇을 대상으로 계산했는지를 확인해야 합니다.
Group별 Sample Size도 확인해야 한다
전체 N만 충분해 보여도 특정 Group이 너무 작을 수 있습니다.
예를 들어:
Group A = 495
Group B = 5
인 경우 Group B의 Mean과 Variance Estimate가 불안정할 수 있습니다.
따라서 Categorical Predictor가 있다면 Level별 N을 확인해야 합니다.
Descriptive Statistics와 Inferential Statistics는 무엇이 다를까?
Descriptive Statistics
현재 Sample의 Data를 설명합니다.
예:
Sample Mean = 72
Sample SD = 8
Inferential Statistics
Sample을 이용해 Population에 대해 결론을 내립니다.
예:
Population Mean Estimate
Confidence Interval
Hypothesis Test
첨부 교재에서도 Descriptive Statistics와 Inferential Statistics를 구분하고, 먼저 Sample을 Explore한 뒤 Population Parameter에 대한 추론으로 넘어가는 구조를 설명합니다.
기술통계는 Population에 대한 결론일까?
Sample에서 계산한 Mean과 SD는 우선 Sample에 대한 Description입니다.
예를 들어:
“Sample 평균 Age는 68세였다.”
는 직접적인 기술통계 문장입니다.
하지만:
“Population 평균 Age는 약 68세이다.”
라고 말하려면 Sample의 Representativeness와 Statistical Inference가 필요합니다.
따라서 Descriptive Result와 Population Claim을 구분해야 합니다.
기술통계만으로도 중요한 결론을 얻을 수 있을까?
가능합니다.
모든 분석이 반드시 Hypothesis Test를 필요로 하는 것은 아닙니다.
예를 들어 Quality Control에서:
- Error Rate
- Missing Rate
- Distribution
- Range
- Frequency
자체가 중요한 정보일 수 있습니다.
또 Exploratory Analysis에서는 Data Pattern을 발견하는 것이 목적일 수 있습니다.
따라서 Descriptive Statistics를 “본 분석 전의 단순 준비작업” 정도로 낮게 볼 필요는 없습니다.
Mean과 SD만 쓰면 Descriptive Statistics가 끝날까?
아닙니다.
Data 특성에 따라 다른 통계량이 필요합니다.
예를 들어 Skewed Data에서는:
Median
Q1
Q3
IQR
가 더 유용할 수 있습니다.
Categorical Data에서는:
N
%
가 중요합니다.
즉 Variable의 Measurement Scale과 Distribution에 따라 Summary Method를 선택해야 합니다.
Continuous Variable의 기본 Descriptive Check
Continuous Variable에서는 다음을 확인할 수 있습니다.
N
↓
Missing
↓
Mean / Median
↓
Standard Deviation
↓
Minimum / Maximum
↓
Quartile
↓
Histogram / Box Plot
↓
Extreme Value
이 정도의 흐름만으로도 Data에 대한 상당한 정보를 얻을 수 있습니다.
Categorical Variable의 기본 Descriptive Check
Categorical Variable에서는 다음과 같은 흐름이 유용합니다.
Category Definition
↓
Frequency
↓
Percentage
↓
Missing
↓
Unexpected Category
↓
Small Cell
↓
Bar Chart
이 과정을 통해 Coding Error와 Imbalance를 확인할 수 있습니다.
Date Variable도 Descriptive Analysis가 필요할까?
그렇습니다.
Date는 단순 Mean보다 다른 형태의 점검이 필요할 수 있습니다.
예를 들어:
- Minimum Date
- Maximum Date
- 예상 Study Period 밖의 날짜
- 미래 날짜
- 순서 오류
등을 확인할 수 있습니다.
즉 Descriptive Analysis는 Variable Type에 따라 형태가 달라집니다.
ID Variable도 분석해야 할까?
ID 자체의 Mean은 의미가 없지만 Data Quality 측면에서는 중요합니다.
예를 들어:
- Missing ID
- Duplicate ID
- 잘못된 Format
을 확인할 수 있습니다.
따라서 모든 Variable에서 같은 Statistic을 계산하는 것이 아니라 Variable의 역할에 맞는 Validation을 수행해야 합니다.
Descriptive Statistics가 Model Selection에 어떤 도움을 줄까?
예를 들어 Continuous Response의 Distribution을 확인했더니 매우 강한 Right Skew가 있다고 가정해보겠습니다.
이 정보는:
- Transformation 고려
- Robust Method 고려
- Alternative Distribution 고려
등의 판단으로 연결될 수 있습니다.
또 Group Variance가 크게 다르면 ANOVA Assumption을 검토할 필요가 있습니다.
즉 Descriptive Statistics는 Statistical Model을 선택하고 검증하는 출발점입니다.
Regression 전에 무엇을 확인할 수 있을까?
Regression에서는 각 Variable의 Descriptive Statistics뿐 아니라 Predictor와 Response의 관계도 탐색해야 합니다.
예를 들어:
Predictor X
Response Y
↓
Scatter Plot
↓
Linearity 확인
↓
Outlier 확인
↓
Potential Relationship 확인
첨부 교재도 Regression Chapter에서 본격적인 Regression 전에 Exploratory Data Analysis를 배치하고 있습니다.
ANOVA 전에 무엇을 확인할까?
ANOVA에서는 Group별 Response Distribution을 확인할 수 있습니다.
예를 들어:
- Group별 N
- Group Mean
- Group Median
- Group SD
- Box Plot
- Extreme Value
를 확인합니다.
그룹 평균 숫자만 보고 ANOVA를 실행하는 것보다 실제 Group Distribution을 먼저 보는 것이 좋습니다.
Logistic Regression 전에 무엇을 확인할까?
Response가 Binary라면:
- Event Frequency
- Non-Event Frequency
- Event Rate
를 확인해야 합니다.
Predictor가 Categorical이라면 Level별 Event Count도 중요할 수 있습니다.
어떤 Cell에 Event가 거의 없으면 Model Estimate가 불안정해질 수 있습니다.
따라서 복잡한 Model일수록 초기 Descriptive Analysis가 더욱 중요합니다.
Correlation 전에 Scatter Plot을 보는 이유
Pearson Correlation Coefficient는 숫자 하나로 두 Continuous Variable 사이 Association을 요약합니다.
하지만 동일한 Correlation 값이라도 실제 Data Pattern이 다를 수 있습니다.
예를 들어:
- 직선 관계
- Curve 관계
- Outlier 하나가 만든 관계
등이 가능합니다.
따라서 Scatter Plot을 먼저 확인해야 합니다.
이 주제는 이후 Correlation Cluster에서 더 자세히 다루게 됩니다.
SAS Enterprise Guide에서 기술통계를 만들 수 있을까?
가능합니다.
첨부 교재에서는 Summary Statistics Task를 이용하여 Descriptive Statistics를 생성하는 방법을 제공합니다.
예를 들어 TESTSCORES Dataset의 SATScore를 Analysis Variable로 지정하고 필요한 Statistics를 선택하여 기술통계를 생성할 수 있습니다.
Summary Statistics Task에서는 무엇을 확인할 수 있을까?
Task에서 설정에 따라 여러 Summary Measure를 출력할 수 있습니다.
예를 들어:
- Mean
- Standard Deviation
- Minimum
- Maximum
- Quartile
등을 확인할 수 있습니다.
이를 통해 SAS Code를 직접 처음부터 작성하지 않아도 Data의 기본적인 구조를 빠르게 점검할 수 있습니다.
SAS 결과를 그대로 보고 끝내면 안 되는 이유
SAS가 Mean = 125라고 계산했다고 가정해보겠습니다.
중요한 질문은:
“125라는 숫자가 정상적인 Data에서 나온 값인가?”
입니다.
이를 확인하려면:
- N은 몇 개인가?
- Missing은 있는가?
- Maximum이 비정상적으로 크지 않은가?
- Distribution은 Skewed되어 있지 않은가?
- 단위는 맞는가?
를 함께 봐야 합니다.
Statistical Software는 계산 결과를 제공하지만 그 결과가 Data Context에서 합리적인지는 분석자가 판단해야 합니다.
Descriptive Statistics는 자동화할 수 있을까?
반복 분석에서는 Data마다 동일한 기본 QC Summary를 생성하도록 Workflow를 만들 수 있습니다.
예를 들어 새로운 Dataset이 들어올 때마다:
N
↓
Missing
↓
Min / Max
↓
Mean / Median
↓
SD / IQR
↓
Category Frequency
를 자동으로 생성할 수 있습니다.
이러한 구조는 Data Quality Monitoring과 Reproducible Analysis에 도움이 됩니다.
자동화해도 사람이 확인해야 할까?
그렇습니다.
자동화는 이상값을 빠르게 표시할 수 있지만 그 값이 실제 Error인지 판단하려면 Context가 필요합니다.
예를 들어 Weight = 180kg가:
- Error인지
- 실제 Observation인지
Software는 Data Definition만으로 완벽하게 판단하기 어렵습니다.
따라서:
Automated Detection
Human Review
가 함께 필요합니다.
Baseline Table도 Descriptive Statistics일까?
Clinical이나 Observational Study에서 Group별 Baseline Characteristics를 요약하는 Table도 Descriptive Statistics의 대표적인 활용입니다.
예를 들어:
| Variable | Placebo | Treatment |
|---|---|---|
| Age Mean | 67.4 | 68.1 |
| Female % | 52% | 49% |
| Baseline Score | 24.1 | 23.8 |
처럼 Data를 설명할 수 있습니다.
이 Table은 Study Population의 특성을 이해하는 데 중요합니다.
Descriptive Table에서 p-value를 꼭 넣어야 할까?
목적에 따라 달라질 수 있습니다.
기술통계의 본래 목적은 Data를 설명하는 것입니다.
특히 Randomized Study의 Baseline Table에서 모든 Variable에 Hypothesis Test를 기계적으로 적용하는 것이 항상 필요한지는 별도의 Statistical Consideration이 있습니다.
중요한 것은 먼저 Group의 실제 특성을 명확하게 기술하는 것입니다.
Group Mean만 비교하면 Imbalance를 충분히 알 수 있을까?
아닙니다.
예를 들어 두 Group Mean Age가 모두 65세라고 가정해보겠습니다.
Group A는 대부분 60~70세일 수 있고,
Group B는 20대와 90대가 섞여 Mean 65가 될 수도 있습니다.
따라서:
- SD
- Range
- Quartile
- Distribution
을 함께 봐야 합니다.
Descriptive Statistics가 이상하면 분석을 중단해야 할까?
바로 중단한다기보다 원인을 먼저 확인해야 합니다.
예를 들어 Maximum이 비정상적으로 크다면:
Step 1
Source Data 확인
↓
Step 2
Data Entry Error인가?
↓
Step 3
실제 Extreme Observation인가?
↓
Step 4
분석에서 어떻게 처리할 것인가?
를 결정합니다.
즉 이상값 발견은 분석 실패가 아니라 검토가 필요한 신호입니다.
데이터 오류를 발견하면 임의로 수정해도 될까?
아닙니다.
Data Correction에는 근거가 필요합니다.
특히 연구나 규제 환경에서는 Source Verification과 Documentation이 중요할 수 있습니다.
분석자가 “이 값은 이상해 보인다”는 이유만으로 임의로 값을 바꾸는 것은 적절하지 않습니다.
Descriptive Statistics는 문제를 발견하는 도구이며, 발견된 Data를 임의로 변경할 권한을 의미하지 않습니다.
Transformation 전후 기술통계를 비교해야 할까?
유용합니다.
예를 들어 Raw Income Data가 매우 Skewed하여 Log Transformation을 적용했다고 가정해보겠습니다.
그렇다면:
Raw Data Distribution
과
Transformed Data Distribution
을 비교하는 것이 좋습니다.
Transformation이 실제로 Shape와 Variability에 어떤 영향을 주었는지 확인할 수 있기 때문입니다.
Derived Variable도 Descriptive Check가 필요하다
Change from Baseline, Percentage Change 같은 Derived Variable은 계산 Rule에 의해 새로 생성됩니다.
따라서 원본 Variable뿐 아니라 Derived Variable도 검토해야 합니다.
예를 들어 Percentage Change에서 Baseline이 0인 Observation이 있다면 비정상적인 값이 생길 수 있습니다.
즉 Derivation이 정상적으로 수행되었는지 Descriptive Statistics로 확인할 수 있습니다.
Descriptive Statistics는 한 번만 하면 될까?
분석 과정에서 Data가 업데이트되거나 Cleaning되면 다시 확인하는 것이 좋습니다.
예를 들어:
Raw Data
↓
Descriptive Check
↓
Cleaning
↓
Clean Data
↓
Descriptive Check
↓
Analysis Dataset
↓
Final Descriptive Check
처럼 반복할 수 있습니다.
Data Version이 바뀌면 Summary Statistic도 바뀔 수 있기 때문입니다.
Data Freeze나 Final Analysis 전에 왜 다시 확인할까?
초기 Data Review에서 문제가 없었더라도 이후 다음 변화가 있을 수 있습니다.
- 새로운 Data 추가
- Query Correction
- Derivation 변경
- Missing 해결
- Coding 변경
따라서 Final Statistical Analysis 전에 최신 Analysis Dataset에 대한 Descriptive Review를 다시 수행하는 것이 중요할 수 있습니다.
분석 결과가 예상과 다르면 Descriptive Statistics로 돌아가야 하는 이유
예를 들어 Regression Result가 예상과 반대 방향으로 나왔다고 가정해보겠습니다.
바로 새로운 Model을 시도하기보다 먼저:
- Coding이 반대로 되어 있지 않은가?
- Outlier가 있는가?
- Sample이 달라졌는가?
- Missing으로 N이 줄었는가?
- Group Imbalance가 있는가?
를 확인해야 합니다.
많은 Statistical Problem의 원인이 복잡한 수학보다 기본적인 Data Structure에 있을 수 있습니다.
Data Profiling과 Descriptive Statistics는 어떤 관계일까?
Data Profiling은 Dataset의 구조와 Quality를 체계적으로 파악하는 과정입니다.
예를 들어:
- Variable Type
- Missing
- Unique Count
- Range
- Frequency
- Distribution
등을 확인합니다.
Descriptive Statistics는 이러한 Data Profiling의 핵심 도구 중 하나입니다.
즉 기술통계를 단순 결과표가 아니라 Data를 이해하는 진단 도구로 보는 것이 중요합니다.
Descriptive Statistics와 Exploratory Data Analysis는 같은 것일까?
서로 밀접하지만 완전히 동일한 개념으로만 볼 필요는 없습니다.
Descriptive Statistics는 Summary Measure와 Table을 중심으로 Data를 설명합니다.
Exploratory Data Analysis는 여기에 Visualization과 Variable Relationship 탐색 등을 더 적극적으로 활용합니다.
예를 들어:
Descriptive Statistics
Mean / SD / Median
EDA
Histogram / Scatter Plot / Pattern Exploration
처럼 연결할 수 있습니다.
좋은 분석의 시작 순서
Data를 받았다고 바로 Statistical Model을 실행하기보다 다음 순서를 사용할 수 있습니다.
1. Dataset Structure 확인
↓
2. N과 Missing 확인
↓
3. Categorical Frequency 확인
↓
4. Continuous Summary Statistics 확인
↓
5. Distribution Plot 확인
↓
6. Outlier / Unusual Value 확인
↓
7. Variable Relationship 탐색
↓
8. Statistical Model 선택
이 흐름은 분석 오류를 줄이는 데 도움이 됩니다.
Descriptive Statistics의 전체 구조
지금까지 내용을 하나로 연결하면 다음과 같습니다.
Raw Data
↓
Data Structure 확인
↓
Variable Type
↓
Descriptive Statistics
↓
Center
Spread
Shape
Missing
Extreme Value
↓
Data Quality Review
↓
필요 시 Cleaning / Verification
↓
Exploratory Analysis
↓
Inferential Statistics
↓
Confidence Interval
Hypothesis Test
ANOVA
Regression
등
Descriptive Statistics는 Inferential Statistics보다 낮은 단계의 단순 계산이 아니라, 올바른 추론을 가능하게 만드는 검증 단계입니다.
흔한 오해 정리
“기술통계는 Mean과 SD만 계산하면 끝난다”
아닙니다.
Median, Quartile, Range, Frequency, Missing, Distribution 등을 함께 확인해야 할 수 있습니다.
“p-value가 중요하므로 Descriptive Statistics는 중요하지 않다”
아닙니다.
Data가 잘못되어 있다면 p-value 역시 의미 있는 결론을 제공하기 어렵습니다.
“Outlier는 발견하면 삭제한다”
아닙니다.
먼저 Error인지 실제 Observation인지 확인해야 합니다.
“Extreme Value는 모두 오류다”
그렇지 않습니다.
실제 Population에 존재하는 Rare Observation일 수 있습니다.
“Mean이 같으면 두 Dataset은 비슷하다”
아닙니다.
Spread와 Distribution Shape가 완전히 다를 수 있습니다.
“Normal Distribution이 아니면 Data가 잘못된 것이다”
아닙니다.
실제 Population 자체가 Skewed할 수 있습니다.
“SAS가 계산했으므로 Data도 올바르다”
아닙니다.
SAS는 입력된 Data를 계산하지만 Data Meaning과 오류 여부를 자동으로 보장하지 않습니다.
“Descriptive Statistics는 Sample을 설명하므로 Population과는 관련이 없다”
기술통계 자체는 Sample을 설명하지만 이후 Parameter Estimation과 Inferential Statistics의 기반이 됩니다.
왜 Descriptive Statistics를 먼저 해야 할까?
앞으로 수행하게 될 다음 분석들은 모두 Data Quality와 Distribution에 영향을 받습니다.
Confidence Interval
↓
Sample Mean과 Variability 사용
t-Test
↓
Group Mean과 Variance 사용
ANOVA
↓
Group Distribution과 Variance 중요
Correlation
↓
Outlier와 Relationship Shape 중요
Regression
↓
Linearity, Outlier, Residual Structure 중요
따라서 Statistical Procedure를 정확하게 사용하는 것만으로 충분하지 않습니다.
그 Procedure에 들어가는 Data를 먼저 이해해야 합니다.
핵심 정리
Descriptive Statistics는 Data의 특성을 요약하는 방법이며, 본격적인 Inferential Analysis 전에 반드시 확인해야 하는 중요한 단계입니다.
첨부 교재에서도 Sample을 이용해 Population을 추론하기 전에 먼저 Data를 Explore하고 Describe하며 unusual values, spread, shape, central tendency, extreme values 등을 확인하는 흐름을 강조합니다.
Continuous Variable에서는 다음과 같은 정보를 확인할 수 있습니다.
- N
- Mean
- Median
- Standard Deviation
- Minimum
- Maximum
- Quartile
- Distribution
Categorical Variable에서는 다음을 확인할 수 있습니다.
- Frequency
- Percentage
- Missing
- Unexpected Category
- Small Cell
전체 흐름을 정리하면 다음과 같습니다.
Data
↓
Descriptive Statistics
↓
Center
Spread
Shape
Missing
Unusual / Extreme Value
↓
Data Validation
↓
Appropriate Statistical Model
↓
Inferential Statistics
SAS Enterprise Guide에서는 Summary Statistics Task 등을 이용하여 이러한 기본적인 기술통계를 생성할 수 있습니다.
좋은 통계분석은 복잡한 Model에서 시작하지 않습니다. 먼저 Data가 무엇을 말하고 있는지, 그리고 그 Data를 신뢰할 수 있는지를 확인하는 것에서 시작합니다.
함께 읽으면 좋은 글
- Mean·Median·Mode의 차이: 데이터 분포에 따라 중심값을 선택하는 기준
- Variance와 Standard Deviation의 의미: 평균만으로 데이터 변동성을 설명할 수 없는 이유
- Range와 Interquartile Range의 차이: 이상치 영향을 줄여 산포를 측정하는 방법
- Distribution을 먼저 확인해야 하는 이유: 데이터의 위치·산포·형태를 점검하는 과정
- Skewness와 Extreme Value의 영향: 비대칭 분포와 극단값이 통계량을 왜곡하는 방식
참고한 자료
- SAS Enterprise Guide: ANOVA, Regression, and Logistic Regression Course Notes
- Introduction to Statistics
- Descriptive Statistics
- Fundamental Statistical Concepts
- Summary Statistics Task
- Exploratory Data Analysis




댓글 0
첫 댓글을 남겨보세요.