통계분석은 크게 두 단계로 나눌 수 있습니다.

첫 번째는 지금 가지고 있는 Data를 설명하는 단계입니다.

두 번째는 그 Sample을 이용해 더 큰 Population에 대해 추론하는 단계입니다.

이때 각각 사용하는 개념이 Descriptive Statistics와 Inferential Statistics입니다.

Descriptive Statistics는 현재 Sample의 특성을 요약하고 설명하는 것이고, Inferential Statistics는 Sample을 이용해 Population Parameter를 추정하거나 Population의 특성에 대해 확률적인 결론을 내리는 것입니다.

첨부 교재에서도 Descriptive Statistics의 목적을 Sample Data의 unusual value, spread, shape, central tendency를 확인하는 것으로 설명하고, Inferential Statistics의 목적을 Sample을 이용해 Unknown Population Parameter를 Estimate 또는 Predict하고 Population Attribute에 대해 Probabilistic Statement를 만드는 것으로 구분합니다.

Descriptive Statistics란 무엇인가?

Descriptive Statistics는 현재 가지고 있는 Data를 그대로 요약하고 설명하는 과정입니다.

예를 들어 100명의 Student SAT Score를 조사했다고 가정해보겠습니다.

이 Sample에서 다음과 같은 값을 계산할 수 있습니다.

• Mean
• Median
• Standard Deviation
• Minimum
• Maximum
• Quartile
• Frequency

이러한 Statistic은 현재 Sample이 어떤 특징을 가지고 있는지를 보여줍니다.

즉:

Sample Data

↓

Summary

↓

Descriptive Statistics

입니다.

Descriptive Statistics의 핵심 질문

기술통계는 다음과 같은 질문에 답합니다.

“지금 내가 가지고 있는 Data는 어떤 모습인가?”

예를 들어:

• 평균은 얼마인가?
• 얼마나 퍼져 있는가?
• Distribution은 대칭적인가?
• Extreme Value가 있는가?
• 어떤 Category가 가장 많은가?

를 확인합니다.

첨부 교재에서도 Descriptive Statistics의 목적을 다음 세 가지로 정리합니다.

• unusual sample data values screening
• continuous variable의 spread와 shape 확인
• sample의 central tendency characterizing

Inferential Statistics란 무엇인가?

Inferential Statistics는 Sample에서 얻은 정보를 이용해 Population에 대해 결론을 확장하는 과정입니다.

예를 들어 Sample 100명의 SAT Score Mean이:

1195

라고 가정해보겠습니다.

Descriptive Statistics에서는:

“Sample 100명의 평균 SAT Score는 1195였다.”

라고 말할 수 있습니다.

하지만 연구자의 궁극적인 관심이 School District 전체 Student의 평균이라면 다음 질문이 필요합니다.

“Population Mean도 대략 1195라고 볼 수 있을까?”

이 질문부터 Inferential Statistics가 시작됩니다.

Inferential Statistics의 핵심 질문

추론통계는 다음 질문에 답합니다.

“Sample에서 관찰한 결과를 Population에 대해 어떻게 확장할 수 있는가?”

이를 위해 다음과 같은 방법을 사용합니다.

• Parameter Estimation
• Confidence Interval
• Hypothesis Testing
• Regression
• ANOVA

즉 Sample Statistic을 Population Parameter에 연결합니다.

교재에서는 Inferential Statistics를 어떻게 설명할까?

첨부 교재에서는 Statistical Inference의 목적을 다음과 같이 설명합니다.

첫째, Sample을 이용하여 Population의 Unknown Parameter Value를 Estimate 또는 Predict합니다.

둘째, Population Attribute에 대해 Probabilistic Statement를 만듭니다.

즉:

Sample

↓

Statistic

↓

Probability Framework

↓

Population Parameter에 대한 Inference

입니다.

Descriptive와 Inferential의 가장 큰 차이

간단하게 정리하면 다음과 같습니다.

Descriptive Statistics

현재 Sample을 설명

Inferential Statistics

Sample을 이용해 Population을 추론

입니다.

예를 들어:

Sample Mean = 70

이라는 값 자체는 Descriptive Statistic입니다.

하지만:

Population Mean을 약 70으로 추정

하면 Inferential Statement가 됩니다.

같은 Mean도 문장에 따라 의미가 달라질 수 있다

예를 들어 Sample Mean이 72라고 가정해보겠습니다.

기술통계 문장

“분석 Sample의 Mean Score는 72였다.”

이는 현재 Data에 대한 직접적인 설명입니다.

추론통계 문장

“Target Population의 Mean Score는 약 72로 추정된다.”

이는 Sample을 넘어 Population에 대한 Statement입니다.

두 문장은 숫자는 같지만 의미가 완전히 다릅니다.

왜 Descriptive Statistics부터 해야 할까?

Inferential Statistics를 하기 전에 Sample Data가 정상적인지 확인해야 하기 때문입니다.

첨부 교재에서는 Random Sample을 선택한 뒤 바로 Inferential Analysis로 넘어가지 않고 먼저 Data를 Explore하고 Describe해야 한다고 설명합니다.

그 이유로 다음을 제시합니다.

• Data가 가능한 한 Error-free여야 함
• Data clustering이나 unusual shape 같은 특징을 확인해야 함
• Extreme Value를 놓치면 Statistic Interpretation에 큰 오류를 만들 수 있음

즉:

Data Quality

↓

Descriptive Statistics

↓

Inferential Statistics

순서가 중요합니다.

Inferential Statistics 전에 Error를 확인해야 하는 이유

예를 들어 Age Data가:

61

64

67

70

700

이라고 가정해보겠습니다.

700이 Data Entry Error라면 Sample Mean과 Standard Deviation이 크게 왜곡됩니다.

이 상태에서 Confidence Interval이나 t-Test를 실행하면 Software는 계산을 수행할 수 있습니다.

하지만 Result는 잘못된 Data에 기반합니다.

즉:

Incorrect Data

↓

Correct Statistical Formula

↓

Misleading Inference

가 가능합니다.

Descriptive Statistics는 단순한 표 만들기가 아니다

기술통계를 단순히 보고서용 Table이라고 생각하면 역할을 과소평가하게 됩니다.

Descriptive Statistics는 다음을 확인하는 Diagnostic Stage입니다.

• N
• Missing
• Range
• Distribution
• Extreme Value
• Group Balance

이 단계에서 문제가 발견되면 본격적인 Statistical Model을 실행하기 전에 원인을 검토할 수 있습니다.

Descriptive Statistics와 Data Exploration의 관계

Descriptive Statistics는 숫자로 Data를 요약합니다.

예:

Mean

Median

SD

IQR

그리고 Visualization을 추가하면 Data Exploration으로 확장됩니다.

예:

Histogram

Box Plot

Scatter Plot

따라서 전체적으로:

Numeric Summary

Graphical Exploration

↓

Sample 이해

라고 볼 수 있습니다.

Inferential Statistics가 필요한 이유

Sample 자체만 관심 대상이라면 Descriptive Statistics만으로 충분할 수 있습니다.

하지만 대부분 연구에서는 Sample보다 더 큰 Population에 관심이 있습니다.

예를 들어:

Sample Patient 200명

↓

궁극적인 관심

↓

Target Disease Population

일 수 있습니다.

이 경우 Sample에서 관찰된 Effect가 Population에서도 존재한다고 볼 수 있는지 평가해야 합니다.

따라서 Inferential Statistics가 필요합니다.

Population과 Sample의 관계

전체 구조는 다음과 같습니다.

Population

↓

Sampling

↓

Sample

↓

Descriptive Statistics

↓

Statistic

↓

Inferential Statistics

↓

Population Parameter에 대한 Conclusion

즉 Statistics의 흐름은 흥미롭게도:

Population → Sample → Population

입니다.

Parameter와 Statistic은 어떻게 연결될까?

Population의 특성을 Parameter라고 합니다.

Sample에서 계산한 값을 Statistic이라고 합니다.

예를 들어:

Population Mean

μ

↓

Parameter

Sample Mean

x̄

↓

Statistic

입니다.

Inferential Statistics는 Sample Statistic을 이용해 Population Parameter를 추정합니다.

첨부 교재에서도 Statistics를 Population Parameter를 Approximate하기 위한 값으로 설명합니다.

Parameter는 왜 Unknown일까?

Population 전체를 측정하지 않는 경우가 많기 때문입니다.

예를 들어 전국 Student 전체의 SAT Mean을 알고 싶다고 가정해보겠습니다.

모든 Student의 Score를 알고 있다면 μ를 직접 계산할 수 있습니다.

하지만 현실에서는 Sample만 조사하는 경우가 많습니다.

따라서:

Population μ

↓

Unknown

↓

Sample 수집

↓

x̄

↓

μ 추정

이라는 구조가 됩니다.

Inferential Statistics는 Sample Statistic을 그대로 Population Parameter라고 보는 것일까?

아닙니다.

Sample Statistic에는 Sampling Variability가 있기 때문입니다.

예를 들어 동일한 Population에서 100명씩 여러 번 Random Sampling하면 Sample Mean은 다음처럼 달라질 수 있습니다.

Sample 1:

1190

Sample 2:

1208

Sample 3:

1185

즉 Sample Statistic은 고정된 값이 아니라 Sample에 따라 변합니다.

Sampling Variability가 왜 중요한가?

Sample Mean이 Population Mean과 정확히 같다는 보장이 없기 때문입니다.

따라서 Inferential Statistics는 단순히:

Sample Mean = 1190

↓

Population Mean = 1190

이라고 선언하지 않습니다.

대신 Sample Statistic의 Uncertainty를 평가합니다.

이때 등장하는 개념이:

• Standard Error
• Confidence Interval
• Hypothesis Test

입니다.

Point Estimate란 무엇인가?

Sample Statistic 하나를 이용해 Population Parameter를 추정하는 것입니다.

예를 들어:

Sample Mean = 1190

이라면:

Population Mean μ의 Point Estimate

=

1190

이라고 할 수 있습니다.

하지만 Point Estimate 하나만으로는 얼마나 불확실한지 알 수 없습니다.

Confidence Interval은 왜 필요한가?

Sample Mean은 다른 Sample을 뽑으면 달라질 수 있습니다.

따라서 하나의 숫자 대신 일정한 Range를 사용해 Population Parameter의 Uncertainty를 표현할 수 있습니다.

예:

Sample Mean = 1190

95% Confidence Interval:

1160 ~ 1220

처럼 표현할 수 있습니다.

즉:

Point Estimate

Sampling Uncertainty

↓

Interval Estimate

입니다.

Hypothesis Testing은 무엇을 할까?

Population Parameter에 대한 특정 주장이나 가설을 Sample Data로 평가합니다.

예를 들어:

Null Hypothesis

μ = 1200

이라고 가정해보겠습니다.

Sample Mean이 1190이라고 해서 바로 μ ≠ 1200이라고 결론내리지 않습니다.

Sampling Variability를 고려하여 Difference가 얼마나 큰지를 평가합니다.

Sample Mean Difference와 Statistical Evidence는 다르다

예를 들어 Population Mean 1200을 검정하고 Sample Mean이 1190이라고 가정해보겠습니다.

Difference는:

-10

입니다.

하지만 이 -10이 중요한지는 다음에 따라 달라집니다.

• Standard Deviation
• Sample Size
• Standard Error

즉 Inferential Statistics에서는 단순 Difference가 아니라 Difference를 Uncertainty와 비교합니다.

Standard Error는 Descriptive Statistic일까 Inferential Statistic일까?

Standard Error는 Inferential Statistics와 직접 연결되는 핵심 개념입니다.

Standard Deviation이 Individual Observation의 Spread를 나타낸다면:

Standard Error

는 Statistic의 Sampling Variability를 나타냅니다.

예를 들어 Sample Mean의 Standard Error는 Sample Mean이 반복 Sampling에서 얼마나 변할지를 나타냅니다.

Standard Deviation과 Standard Error를 다시 구분하면

Standard Deviation

Sample Data 자체의 Variability

↓

Descriptive 역할이 큼

Standard Error

Statistic의 Sampling Variability

↓

Inferential 역할이 큼

입니다.

이 차이는 Descriptive에서 Inferential로 넘어가는 중요한 연결점입니다.

Descriptive Statistics와 Confidence Interval의 관계

Confidence Interval은 갑자기 새로운 숫자를 만드는 것이 아닙니다.

Sample의 다음 정보를 사용합니다.

• Mean
• Standard Deviation
• Sample Size

즉 Descriptive Statistics에서 확인한 Statistic이 Inferential Statistics의 입력이 됩니다.

전체적으로:

Sample Summary

↓

Mean

SD

n

↓

Standard Error

↓

Confidence Interval

입니다.

Descriptive Statistics와 t-Test의 관계

t-Test도 Sample Summary를 기반으로 합니다.

예를 들어 두 Group을 비교한다면 먼저:

Group A Mean

Group A SD

Group A n

Group B Mean

Group B SD

Group B n

을 확인합니다.

그 다음 Mean Difference를 Sampling Variability와 비교하여 Statistical Test를 수행합니다.

Descriptive Statistics와 ANOVA의 관계

ANOVA에서도 먼저 Group별:

• Mean
• SD
• N

을 확인하는 것이 중요합니다.

그 다음 ANOVA는:

Between-Group Variation

과

Within-Group Variation

을 비교합니다.

즉 Descriptive Statistics에서 확인한 Group Structure가 Inferential Model의 기반이 됩니다.

Regression에서도 Descriptive와 Inferential 단계가 나뉠까?

그렇습니다.

먼저 Predictor와 Response의 Distribution과 Relationship을 탐색합니다.

예:

• Mean
• SD
• Scatter Plot

그 다음 Regression Model을 이용하여 Population Regression Parameter를 추정합니다.

즉:

Exploratory / Descriptive

↓

Pattern 확인

그리고:

Inferential Regression

↓

Coefficient Estimate

Confidence Interval

p-value

로 확장됩니다.

Correlation Coefficient는 Descriptive일까 Inferential일까?

Sample Correlation r 자체는 Sample Relationship을 요약하는 Statistic입니다.

하지만 이를 이용해 Population Correlation ρ에 대해 Hypothesis Test나 Confidence Interval을 수행하면 Inferential Statistics가 됩니다.

즉 하나의 Statistic도 사용 목적에 따라 Descriptive와 Inferential Context가 달라질 수 있습니다.

“Descriptive Statistics는 Population과 아무 관련이 없다”는 말은 맞을까?

완전히 그렇다고 볼 수는 없습니다.

Descriptive Statistic 자체는 현재 Sample을 설명합니다.

하지만 그 Statistic이 이후 Population Parameter를 추정하는 Inferential Analysis의 기반이 됩니다.

즉:

Descriptive

↓

Sample 이해

↓

Inferential

↓

Population 추론

이라는 연속적인 구조입니다.

Inferential Statistics만 바로 실행하면 놓칠 수 있는 것

예를 들어 p-value = 0.01이 나왔다고 가정해보겠습니다.

숫자만 보면 Significant하다고 판단할 수 있습니다.

하지만 실제 Data를 확인했더니:

• Outlier 한 개가 Effect를 만들었거나
• Group Sample Size가 극단적으로 불균형하거나
• 잘못된 Unit이 섞여 있을 수도 있습니다.

따라서 p-value 전에 Data Structure를 확인해야 합니다.

p-value는 Data Quality를 검증해줄까?

아닙니다.

p-value는 주어진 Data와 Statistical Model을 기반으로 계산됩니다.

Data가 잘못되어도 p-value는 계산될 수 있습니다.

따라서:

Small p-value

≠

Good Data

입니다.

Data Quality는 별도로 확인해야 합니다.

Confidence Interval이 좁으면 Sample이 Representative하다는 뜻일까?

아닙니다.

N이 크면 Standard Error가 작아져 Confidence Interval이 좁아질 수 있습니다.

하지만 Sampling Bias가 존재하면 좁은 Interval이 잘못된 Population Parameter 주변에 형성될 수도 있습니다.

즉:

Precision

과

Representativeness

는 서로 다른 개념입니다.

큰 Sample이면 Inferential Statistics가 항상 정확할까?

아닙니다.

Large Sample은 Random Sampling Variability를 줄이는 데 도움을 줄 수 있습니다.

하지만 다음 문제를 자동으로 해결하지는 않습니다.

• Sampling Bias
• Measurement Error
• Missing Bias
• Wrong Population Definition

따라서 Descriptive와 Sampling Design을 함께 검토해야 합니다.

Random Sampling이 Inferential Statistics에서 중요한 이유

첨부 교재에서는 Population에서 Sample을 선택할 때 Random하고 Representative한 Sample의 중요성을 설명합니다. 또한 Convenience Sampling은 Biased Sample을 만들 수 있다고 경고합니다.

왜냐하면 Sample에서 Population으로 Generalize하려면 Sample이 Population을 합리적으로 대표해야 하기 때문입니다.

Convenience Sample에서 Inferential Statistics를 하면 안 될까?

계산 자체는 가능할 수 있습니다.

하지만 결과를 더 넓은 Population에 Generalize하는 데 제한이 있습니다.

예를 들어 특정 한 Class 학생만 조사하여 Sample Mean을 계산한 뒤 전체 School District Mean이라고 추론하면 문제가 될 수 있습니다.

첨부 교재에서도 Convenience Sampling으로 인해 Average Score와 Variability에 대한 잘못된 결론에 도달할 수 있다고 설명합니다.

Representative Sample이 왜 중요한가?

Inferential Statistics의 결론은 분석한 Sample을 넘어 Population을 대상으로 하기 때문입니다.

만약 Sample 자체가 Population의 특정 부분만 반영한다면 Statistic이 아무리 정확하게 계산되어도 Population Parameter Estimate가 Bias될 수 있습니다.

즉:

Correct Calculation

Biased Sample

↓

Potentially Biased Inference

가 가능합니다.

Descriptive Statistics는 Biased Sample을 고쳐줄까?

아닙니다.

Descriptive Statistics는 Sample이 어떤 특징을 가지고 있는지 보여줄 뿐 Sampling Design 자체를 수정하지 않습니다.

예를 들어 편향된 Sample의 Mean과 SD를 아주 정확하게 계산해도 Sample이 Target Population을 대표하지 않는 문제는 남습니다.

Inferential Statistics는 Bias를 자동으로 보정할까?

일반적인 Confidence Interval이나 Hypothesis Test가 Sampling Bias를 자동으로 제거한다고 생각해서는 안 됩니다.

Sampling Design이나 Weighting 등이 필요한 경우 별도의 Method가 필요할 수 있습니다.

따라서 Statistical Formula가 Sample Selection 문제를 자동으로 해결하지는 않습니다.

Descriptive와 Inferential의 Workflow를 정리하면

다음과 같습니다.

Target Population 정의

↓

Sample 선택

↓

Data 수집

↓

Descriptive Statistics

↓

N

Center

Spread

Shape

Extreme Value

↓

Data Quality 확인

↓

Inferential Statistics

↓

Estimate

Confidence Interval

Hypothesis Test

↓

Population Conclusion

입니다.

SAS Enterprise Guide에서는 두 영역이 어떻게 연결될까?

첨부 교재에서는 Chapter 2에서 먼저 Summary Statistics와 Distribution Analysis를 통해 Sample Data를 설명합니다.

그 다음 Confidence Interval과 Hypothesis Testing으로 넘어갑니다.

즉 Course Structure 자체가:

Descriptive

↓

Distribution Understanding

↓

Inferential

순서로 구성되어 있습니다.

이는 Statistics를 학습하는 자연스러운 구조이기도 합니다.

Summary Statistics Task는 어느 쪽일까?

기본적으로 Descriptive Statistics 도구입니다.

예를 들어:

• Mean
• SD
• Min
• Max
• Quartile

등을 생성합니다.

하지만 같은 Task에서 Mean Confidence Interval 같은 Option을 추가하면 Inferential Estimation으로 확장될 수도 있습니다.

즉 Software의 Task 이름보다 어떤 Statistic을 어떤 목적으로 사용하는지가 중요합니다.

Distribution Analysis Task는 어느 쪽일까?

주로 Descriptive / Exploratory Analysis에 해당합니다.

Histogram, Box Plot, Skewness, Kurtosis 등을 이용해 Sample Distribution을 이해합니다.

다만 Normality Test처럼 Hypothesis Testing 요소가 포함될 수도 있습니다.

따라서 실제 Statistical Workflow에서는 Descriptive와 Inferential 기능이 완전히 분리된 메뉴로만 존재하는 것은 아닙니다.

Statistical Procedure를 분류할 때 목적을 봐야 하는 이유

예를 들어 Mean은 Descriptive Statistic입니다.

하지만 Mean을 이용해 Population Mean의 Confidence Interval을 만들면 Inferential Analysis입니다.

Regression Coefficient도 Sample에서는 Statistic이지만 Population Coefficient에 대해 p-value와 CI를 계산하면 Inferential Analysis가 됩니다.

즉 같은 숫자라도 Analysis Purpose에 따라 역할이 달라질 수 있습니다.

Descriptive Result만으로 “효과가 있다”고 말할 수 있을까?

신중해야 합니다.

예를 들어:

Treatment A Mean Change = -5

Placebo Mean Change = -2

라고 가정해보겠습니다.

Sample에서는 3점 Difference가 존재합니다.

하지만 Population에서도 Difference가 있다고 결론내리려면 Sampling Variability를 평가해야 합니다.

따라서:

Observed Difference

≠

Confirmed Population Effect

입니다.

Inferential Statistics가 Effect의 중요성까지 알려줄까?

아닙니다.

Statistical Significance와 Practical Significance는 별개의 문제입니다.

예를 들어 매우 큰 Sample에서는 Mean Difference 0.1도 Statistically Significant할 수 있습니다.

하지만 실제 Business나 Clinical Context에서 0.1이 중요한지는 별도로 판단해야 합니다.

이 주제는 이후 Statistical Significance와 Practical Significance의 차이에서 자세히 다루게 됩니다.

Statistical Inference는 확정적인 결론일까?

아닙니다.

첨부 교재에서도 Inferential Statistics를 Population Attribute에 대한 Probabilistic Statement와 연결합니다.

즉 Statistical Inference는:

“Population Parameter가 반드시 이 값이다.”

라고 절대적으로 증명하는 것이 아니라 Sample Evidence와 Probability Model에 근거해 불확실성을 포함한 결론을 제공합니다.

왜 Probability가 필요한가?

Sample마다 Statistic이 달라질 수 있기 때문입니다.

예를 들어 같은 Population에서 두 Sample을 뽑으면 Mean이 다를 수 있습니다.

따라서 Sample Result가 Population의 실제 특성과 얼마나 일치할 가능성이 있는지를 Probability Framework로 평가합니다.

이것이 Statistical Inference의 핵심입니다.

Inferential Statistics는 Population Parameter를 직접 볼 수 없다는 점에서 시작한다

Population Mean μ는 대개 Unknown입니다.

그래서 Sample Mean x̄를 관찰합니다.

즉:

μ

↓

Unknown

x̄

↓

Observed

이 차이를 연결하는 것이 Inferential Statistics입니다.

Sample Statistic만 보면 불확실성을 알 수 없는 이유

예를 들어 두 Study가 모두 Mean = 100이라고 가정해보겠습니다.

Study A

n = 10

Study B

n = 10,000

Point Estimate는 같습니다.

하지만 Precision은 다를 수 있습니다.

따라서 Sample Statistic 하나보다:

• n
• SD
• Standard Error
• Confidence Interval

을 함께 봐야 합니다.

Descriptive Statistics에서 Sample Size가 중요한 이유

Mean이나 SD는 Sample Size를 함께 봐야 안정성을 이해할 수 있습니다.

예를 들어 Group Mean이:

50

이더라도:

n = 3

인지

n = 3000

인지에 따라 Estimate의 Precision은 크게 달라질 수 있습니다.

이후 Inferential Analysis에서 Sample Size는 Standard Error와 직접 연결됩니다.

Missing Data가 Descriptive와 Inferential 모두에 영향을 준다

Dataset 전체가 500명인데 Outcome이 100명 Missing이면 Outcome Mean은 400명을 기반으로 계산될 수 있습니다.

그리고 t-Test나 Regression도 실제로는 400명 또는 더 적은 Observation을 사용할 수 있습니다.

따라서:

Dataset N

과

Analysis N

을 구분해야 합니다.

Group별 Missing이 다르면 더 중요하다

Treatment A Missing = 2%

Treatment B Missing = 30%

이라면 Group Comparison Result에 영향을 줄 수 있습니다.

Descriptive Statistics 단계에서 이러한 Pattern을 확인해야 Inferential Result를 올바르게 해석할 수 있습니다.

Extreme Value는 두 단계 모두에 영향을 준다

Descriptive 단계에서는:

Mean

SD

Range

를 바꿀 수 있습니다.

Inferential 단계에서는:

Standard Error

Test Statistic

Regression Coefficient

p-value

등에도 영향을 줄 수 있습니다.

따라서 Extreme Value Review는 단순 Data Cleaning 작업이 아니라 Inferential Validity와 연결됩니다.

Distribution Shape가 왜 Inferential Analysis와 연결될까?

일부 Statistical Method는 특정 Assumption을 가질 수 있습니다.

예를 들어 t-Test, ANOVA, Regression에서는 Data 또는 Residual Structure와 관련된 Assumption을 검토할 필요가 있습니다.

따라서 Descriptive Distribution Review가 이후 Model Validation의 출발점이 됩니다.

Descriptive에서 Normality가 아니면 Inferential이 불가능할까?

아닙니다.

사용할 Statistical Method와 Sample Size, Model Structure에 따라 다릅니다.

중요한 것은:

Data Shape 확인

↓

Method Assumption 확인

↓

적절한 Analysis 선택

입니다.

Normal Distribution이 아니라는 이유만으로 모든 Inferential Method를 중단하는 것은 적절하지 않습니다.

Descriptive Statistics와 Model Diagnostics의 차이

Descriptive Statistics는 Statistical Model을 적용하기 전에 Raw Data를 이해합니다.

Model Diagnostics는 Model을 적용한 뒤 Residual이나 Influence 등을 평가합니다.

즉:

Before Model

↓

Descriptive / EDA

그리고:

After Model

↓

Diagnostics

입니다.

두 단계 모두 Data Understanding에 중요합니다.

Inferential Result를 보기 전에 Descriptive Table을 먼저 보는 이유

예를 들어 ANOVA p-value가 0.001이라고 해도 다음을 먼저 보면 해석이 더 정확해집니다.

Group	N	Mean	SD
A	100	50	5
B	100	51	5
C	100	80	6

이 Table을 보면 Difference의 구조가 명확합니다.

p-value 하나만 보면 어떤 Group이 얼마나 다른지 알 수 없습니다.

즉 Descriptive Statistics가 Inferential Result의 Context를 제공합니다.

Regression에서도 Coefficient만 보면 부족한 이유

Regression Coefficient가 Significant하다고 해도 먼저 다음을 알아야 합니다.

• Predictor Range
• Response Range
• Distribution
• Outlier
• Sample Size

이 정보가 있어야 Coefficient의 실제 Meaning을 이해할 수 있습니다.

Inferential Result에도 항상 Descriptive Context가 필요하다

예를 들어:

p = 0.03

만 보고하는 것보다:

Mean Difference = 5

95% CI = 0.5 to 9.5

p = 0.03

처럼 Effect Magnitude와 Uncertainty를 함께 제시하는 것이 훨씬 많은 정보를 줍니다.

즉 Inferential Statistics도 Descriptive Effect Estimate와 분리되어 있지 않습니다.

p-value는 Effect Size가 아니다

p-value가 작다고 Effect가 큰 것은 아닙니다.

Sample Size가 매우 크면 작은 Effect도 작은 p-value를 가질 수 있습니다.

따라서:

Effect Estimate

Confidence Interval

p-value

를 함께 보는 것이 좋습니다.

Confidence Interval은 Descriptive와 Inferential을 연결한다

Sample Mean은 Sample Description입니다.

그 Mean에서 Standard Error를 이용해 Population Parameter에 대한 Interval을 만들면 Inferential Analysis가 됩니다.

즉:

Descriptive Statistic

↓

Sample Mean

Sampling Theory

↓

Standard Error

↓

Inferential Statistic

↓

Confidence Interval

로 연결됩니다.

Data가 완벽해야만 Inferential Statistics를 할 수 있을까?

현실의 Data는 완벽하지 않은 경우가 많습니다.

중요한 것은 문제를 확인하고 적절하게 처리하거나 Limitation을 이해하는 것입니다.

예를 들어:

• Missing
• Skewness
• Outlier

가 있다고 해서 모든 분석을 중단하는 것이 아니라 그 영향과 Method Assumption을 검토해야 합니다.

Inferential Statistics가 모든 연구 질문에 필요한 것은 아니다

연구 목적이 단순히 현재 Dataset의 현황을 설명하는 것이라면 Descriptive Statistics만으로 충분할 수 있습니다.

예를 들어:

“현재 Open Query의 수는 몇 개인가?”

“Site별 Missing Rate는 얼마인가?”

처럼 현재 Data 자체가 관심 대상이라면 Population Generalization이 필요하지 않을 수 있습니다.

따라서 Inferential Statistics를 항상 사용해야 좋은 분석이라고 생각할 필요는 없습니다.

언제 Descriptive Statistics만으로 충분할까?

예를 들어 다음과 같은 경우입니다.

• 전체 Population을 실제로 모두 관찰한 경우
• 현재 운영 현황을 요약하는 것이 목적
• Exploratory Data Review
• Data Quality Monitoring
• 단순 Report

이 경우 p-value를 억지로 추가하는 것이 오히려 불필요할 수 있습니다.

언제 Inferential Statistics가 필요할까?

Sample 결과를 더 큰 Population에 일반화하려는 경우입니다.

예:

• Population Mean 추정
• Treatment Effect 추정
• Predictor와 Outcome Relationship 평가
• Group Difference 검정

이 경우 Sampling Uncertainty를 고려해야 합니다.

Census Data에서도 Inferential Statistics가 필요할까?

현재 정의된 Population 전체를 완전히 관찰했다면 해당 Population Parameter를 직접 계산할 수 있습니다.

이 경우 Sampling Error는 존재하지 않을 수 있습니다.

하지만 다른 시점, 미래 Population 또는 더 넓은 Superpopulation으로 Generalize하려는 경우에는 다시 Inferential Framework가 필요할 수 있습니다.

따라서 Population Definition이 중요합니다.

Descriptive와 Inferential을 가장 쉽게 구분하는 질문

다음 질문을 사용하면 됩니다.

“나는 지금 가지고 있는 Data만 설명하려는가?”

Yes

↓

Descriptive Statistics

또는:

“이 Sample을 이용해 더 큰 Population에 대해 말하려는가?”

Yes

↓

Inferential Statistics

입니다.

SAS에서 Result를 읽을 때 이 질문이 중요한 이유

SAS Output에는 수많은 숫자가 나옵니다.

하지만 각각을 먼저 다음처럼 구분하면 해석하기 쉬워집니다.

이 숫자는 Sample Summary인가?

또는:

Population Parameter에 대한 Inference인가?

예를 들어:

Mean

↓

Sample Summary

Standard Deviation

↓

Sample Spread

Confidence Limits

↓

Population Parameter의 Interval Estimate

p-value

↓

Hypothesis Test Evidence

입니다.

Software가 이 차이를 대신 판단해줄까?

아닙니다.

SAS는 사용자가 선택한 Procedure에 따라 Statistic을 계산합니다.

하지만 Research Question이:

Sample Description

인지

Population Inference

인지 자동으로 판단하지 않습니다.

따라서 Statistical Purpose를 먼저 결정해야 합니다.

Descriptive Statistics가 나쁘고 Inferential Statistics가 더 고급인 것은 아니다

두 방법은 경쟁 관계가 아닙니다.

Descriptive Statistics는 Inferential Statistics보다 낮은 수준의 분석이라는 의미가 아닙니다.

오히려 올바른 Inferential Analysis를 위해 필수적인 전 단계입니다.

복잡한 Statistical Model보다 먼저 Data를 정확하게 설명하는 것이 좋은 분석의 출발점입니다.

복잡한 Model도 Descriptive Error를 해결하지 못한다

Data Entry Error가 있는 상태에서 Advanced Regression Model을 실행한다고 문제가 해결되지 않습니다.

오히려 복잡한 Model일수록 오류를 발견하기 어려워질 수도 있습니다.

따라서:

Simple Descriptive Review

↓

Data 문제 발견

↓

정확한 Model

의 순서가 중요합니다.

Descriptive에서 Inferential로 넘어가는 전체 구조

다음처럼 이해하면 쉽습니다.

Population

↓

Random / Representative Sample

↓

Sample Data

↓

Descriptive Statistics

N

Mean

Median

SD

IQR

Frequency

Distribution

↓

Data Quality 확인

↓

Inferential Statistics

Point Estimate

Standard Error

Confidence Interval

Hypothesis Test

ANOVA

Regression

↓

Population Parameter에 대한 Conclusion

입니다.

흔한 오해 정리

“Descriptive Statistics는 단순한 표 만들기다”

아닙니다.

Data Quality와 Distribution을 확인하는 핵심 분석 단계입니다.

“Inferential Statistics는 Sample이 아니라 Population Data를 직접 분석한다”

아닙니다.

Sample Data를 이용해 Population에 대해 추론합니다.

“Sample Mean은 Inferential Statistic이다”

Sample Mean 자체는 Sample을 설명하는 Statistic입니다. 이를 Population Mean Estimate로 사용하는 순간 Inferential Context가 만들어집니다.

“p-value가 있으면 Inferential Analysis이므로 Descriptive Statistics는 볼 필요가 없다”

아닙니다.

p-value를 해석하려면 Effect Magnitude와 Data Structure를 함께 확인해야 합니다.

“Descriptive Result가 다르면 Population도 반드시 다르다”

아닙니다.

Sample Difference에는 Sampling Variability가 존재합니다.

“Confidence Interval이 좁으면 Sample Bias도 없다”

아닙니다.

Precision과 Bias는 별개의 문제입니다.

“Large Sample이면 Inferential Result가 항상 정확하다”

아닙니다.

Sampling Bias나 Measurement Error는 Large N만으로 해결되지 않습니다.

“Inferential Statistics는 확실한 사실을 증명한다”

아닙니다.

Probability Model을 이용해 Population Attribute에 대한 불확실성을 포함한 Statement를 만듭니다.

“모든 분석에는 p-value가 필요하다”

아닙니다.

현재 Population이나 Dataset을 설명하는 것이 목적이면 Descriptive Statistics가 더 적절할 수 있습니다.

“Software가 실행되면 추론도 타당하다”

아닙니다.

Sampling, Data Quality, Assumption, Research Question이 적절해야 합니다.

왜 Descriptive와 Inferential을 정확히 구분해야 할까?

앞으로 다룰 대부분의 Statistical Topic이 이 구조 위에 있기 때문입니다.

Confidence Interval

↓

Population Parameter Estimation

Null Hypothesis

↓

Population Parameter에 대한 Hypothesis

p-value

↓

Sample Evidence를 이용한 Hypothesis Evaluation

t-Test

↓

Sample Mean Difference로 Population Mean Difference 평가

ANOVA

↓

여러 Population Mean에 대한 Inference

Regression

↓

Population Relationship Parameter 추정

따라서 Descriptive와 Inferential의 차이는 단순한 용어 구분이 아니라 통계학 전체를 이해하는 기본 구조입니다.

핵심 정리

Descriptive Statistics는 현재 가지고 있는 Sample Data를 설명합니다.

첨부 교재에서는 그 목적을 다음과 같이 설명합니다.

• unusual sample data value 확인
• Continuous Variable의 spread와 shape 확인
• Sample의 central tendency 확인

반면 Inferential Statistics는 Sample을 이용해 Population에 대해 추론합니다.

교재에서 제시하는 목적은:

• Unknown Population Parameter를 Estimate 또는 Predict
• Population Attribute에 대해 Probabilistic Statement 생성

입니다.

따라서 전체 구조는 다음과 같습니다.

Sample

↓

Descriptive Statistics

Mean

Median

SD

IQR

Distribution

↓

Sample 이해

↓

Sampling Variability 고려

↓

Inferential Statistics

Estimate

Confidence Interval

Hypothesis Test

↓

Population Conclusion

그리고 이 두 단계 사이에는 반드시 Data Quality Review가 필요합니다.

첨부 교재에서도 Random Sample을 선택한 후 Inferential Statistics보다 먼저 Data를 Explore하고 Describe해야 하며, Data Error, unusual shape, Extreme Value가 결과 해석을 크게 왜곡할 수 있다고 설명합니다.

Descriptive Statistics가 “현재 Data는 어떤 모습인가?”에 답한다면, Inferential Statistics는 “이 Sample에서 얻은 정보를 Population에 대해 어디까지 확장할 수 있는가?”에 답합니다.

좋은 Statistical Analysis는 둘 중 하나를 선택하는 것이 아니라:

Descriptive Statistics로 Sample을 정확히 이해한 뒤 Inferential Statistics로 Population에 대한 추론을 수행하는 것

입니다.

함께 읽으면 좋은 글

• Population과 Sample의 차이: 표본으로 모집단을 추론할 수 있는 원리
• Parameter와 Statistic의 차이: 모집단 특성을 표본 통계량으로 추정하는 방식
• Confidence Interval의 의미: 단일 추정값보다 범위 추정이 중요한 이유
• Null Hypothesis와 Alternative Hypothesis의 구조: 통계적 가설검정이 시작되는 방식
• p-value의 의미: 통계적 유의성을 판단할 때 실제로 계산되는 값

참고한 자료

• SAS Enterprise Guide: ANOVA, Regression, and Logistic Regression Course Notes
• Chapter 2 Introduction to Statistics
• Fundamental Statistical Concepts
• Parameters and Statistics
• Descriptive Statistics
• Inferential Statistics
• Random Sampling and Representative Samples