Parametric vs. Non-Parametric Tests

👩‍🔬 Parametric(모수적) & Non-Parametric(비모수적) test 종류 구별은 매우 중요하다!

 

👩‍🔬 간략히 말하자면 모수적 방법은 data의 분포를 가정 (주로 정규성 - normal distribution)한 채 hypothetical test를 진행하는 방식(모집단에 대한 정보를 알고 있는 채로 진행)이고 & 비모수적 방법은 그런 분포가 아예 존재하지 않는다 생각하고 진행하는 방법(모집단에 대한 정보가 없음)이다.

 

👩‍🔬 일단 분포를 가정하고 시작하는, 대부분의 test로 모수적 방법을 진행하는 Parametric Method의 장점들부터 알아보자

Parametric Methods - 장점

1> 🙋‍♀️ skewed되거나 특정 방향으로 치우치지 않은 분포여도 신뢰할 만한 결과를 가져다 준다

 

* outlier가 존재하거나, non-normally distributed된 data여도 test 별 요구 sample size만 넘겨준다면, '모수적 방법'에 의해 신뢰할 수 있는 테스트 결과를 가져다 줌

 

* 앞서 배웠던 총 3가지의 test (One-Sample T-Test & Two-Samples T-Test & ANOVA)의 최소 요구조건 sample size는 아래와 같음

 

 

2> 🙋‍♀️ 그룹 간의 분산이 달라도 신뢰성 있는 결과를 가져다 준다

 

→ 그룹 간 분산에 크게 영향을 안받음!

 

3> 🙋‍♀️ 통계적 power (Statistical Power)를 갖고 있다

 

→ 즉 실제 어떤 효과 effect를 가지고 있는 지 탐지하는 통계적 문제에서 모수적 method가 더 쉽게 탐지할 수 있는 power를 가짐

Non-Parametric Methods - 장점

1> 👨‍👩‍👧‍👦 mean이 아닌 median을 측정한다

 

→ skewed된 distribution을 보면 mean과 median은 매우 다른 지점에 잡히므로 parametric을 선택할 것인지, non-parametric을 선택할 것인지에 따라 매우 다른 결과를 산출한다. 특히 심하게 skewed된 분포의 경우, 우리가 관심있어 하는 data의 집중된 부분은 주로 median으로 측정이 되기 때문에 경우에 따라 non-parametric method를 더 선호할 수도 있다.

 

2> 👨‍👩‍👧‍👦 sample size가 작고, non-normal한 data의 경우 유용

 

3> 👨‍👩‍👧‍👦 ordinal data, ranked data, outliers에 적합

 

→ parametric의 단점은 아무래도 outlier의 영향을 그대로 받기 때문에 원하지 않는 결과가 나올 수 있다는 점이다. 하지만 비모수적 방법은 outlier에 크게 영향을 받지 않는다.

hypothesis test 종류>

* 빨간 사각형 배움 (현재 포스팅 날짜 기준) (곧 다른 test도 배울 예정!)

 

 

🤡 One-Sample Parametric T-Test>

T-test 👉 《One-sample T-test (w/ python code)》

 

🤡 Two-Samples Independent Parametric T-Tests>

T-test 👉《Two-samples 'independent' T-test (w/python code)》

 

🤡 More Than Two Samples One-Way Parametric ANOVA>

ANOVA & (One-Way ANOVA + w/code)

 

** 정리를 해보자면! **

 

Properties	Parametric	Non-Parametric
가정	O	X
central tendency value	평균	중간값(median)
correlation	pearson	spearman
probablistic distribution	normal(정규)	arbitrary
population 지식	필요	필요 X
사용되는 곳	interval data	nominal data
예시	z-test, t-test 등등	Kruskal-Wallis, Mann-Whitney 등등
장점	data 자체에 dependent - accuracy 높음	분포에 영향 x - robust, 더 다양한 상황에 쓰임
적용	variable	variable & attributes

 

🤗 현재 포스팅 시각 기준 총 3개의 test에 대해서만 배웠는데, 앞으로 훨씬 더 많은 test 포스팅함으로써 parametric vs. non-parametric의 차이를 직접 눈으로 확인해보자!

---

* 출처1) https://byjus.com/maths/difference-between-parametric-and-nonparametric/

* 출처2) https://keydifferences.com/difference-between-parametric-and-nonparametric-test.html 

* 출처3) https://www.analyticsvidhya.com/blog/2021/06/hypothesis-testing-parametric-and-non-parametric-tests-in-statistics/

* 출처4) https://statisticsbyjim.com/hypothesis-testing/nonparametric-parametric-tests/