T-test 👉 《One-sample T-test (w/ python code)》

👒 저번 시간에 statistics에서 빼놓을 수 없는 '가설검정 TEST - Hypothesis Test'에 대해 배웠다.

 

Hypothesis Test: H0 & Ha - concepts

 

- H0을 세우고 Ha를 이용해 H0을 기각하는 결론을 내리는 hypothesis test! -

 

 

🙌 이번 시간에는 해당 가설검정 test의 일종인 't-test'에 대해서 배워보려 함! (역시 통계에서 반드시 알아야 하는 개념🤗)

 

1. T-test 개요

** t-분포

≫ 연속형확률변수 분포 중 정규모집단에서 나온 표본통계량들의 분포 설명 시 활용되는 분포 중 하나

≫ 즉, 우리는 모집단에 관심이 있는데 해당 모집단에서 일부 표본으로 뽑은 표본에 대해서 알고자 할 때 생각하는 표본의 분포 중 하나로 't-분포'가 있다~라고 생각하면 좋을 것 같음

 

≫ '독립인 정규를 따르는 분포의 평균에 관한 분포'로 많이 활용

→ 표준정규 확률변수 Z & chi-square 확률변수 U를 섞음

→ 각 분포 - 표준정규분포(Z) & 카이제곱분포(U)에서 하나씩 랜덤으로 뽑고 두 종류의 확률변수를 이용해 함수를 생성!

 

≫ X = Z/root(U/k)가 따르는 분포를 자유도가 k(n-1)인 분포라 하며 이 분포를 't분포'라고 함

→ t분포를 따르는 확률변수는 실수 전 구간에서 따르는 변수

 

≫ 이 t-분포를 알기 위해서는 표준정규확률분포 & 카이제곱의 자유도를 알아야 한다.
(표준정규확률분포 모수는 알고 있기에 자유도 k만 알면 됨 → 자유도는 표본 개수 -1)

 

≫ t-분포의 식과 개형을 살펴보면...! 🧐

 

 

→ t분포를 살펴보면 가운데 0을 중심으로 대칭인 종 모양의 분포이다. 여기서 Z인 표준정규분포보다 꼬리가 두꺼운 걸 확인할 수 있음!

→ 위 t분포 식에 의해 자유도가 커지면 분모가 커져 확률변수 값이 감소해 퍼져있는 정도가 줄고 가운데로 모이며 점점 표준정규분포를 향해 수렴함을 알 수 있다

 

≫ t분포를 따르는 확률변수의 평균은 0, 분산은 k/(k-2) (단, k 자유도 > 2) 

→ 즉 분산이 1보다 큰 걸 알 수 있다. 이는 분산이 표준정규보다 좀 더 크다는 걸 뜻함 (표준정규분포의 분산은 1임! - 그래서 더 퍼짐)

→ 자유도가 엄청 커지면 표준정규분포가 수렴한다고 했는데, 이를 수학적으로 보자면 k가 무한대로 가면서 분산이 1로 수렴하므로 결국은 표준정규분포로 수렴한다는 걸 뜻한다

 

≫ t분포의 (1-α) 분위수

→ 개형을 보면 0을 중심으로 대칭이니까 t(0.05, 7) = -t(0.95, 7)

→ 즉 일반화하면 t(1-α, k) = -t(α, k)

2. One-Sample T-test

[1] 개요

≫ 가정

1> 모집단은 정규분포를 따른다

2> 모집단의 분산이 알려지지 않았다 😕 (현실세계에서는 모분산을 모르는 경우가 대부분)

 

≫ 우리가 원하는 건? (정확히 하기)

'모집단의 평균'

 

≫ 귀무가설 H0 = '모집단의 평균(관심모수 µ) = 표본의 평균(µ0)'

 

≫ 검정통계량 = 확률변수 t분포의 T분포 (자유도는 n-1) (n은 표본집단에서의 표본 개수)

→ 모집단이 정규분포이고 모분산이 알려지지 않은 경우 (위 두 가정에 의해서) 우리는 T분포를 구한다!

→ 검정통계량 = '귀무가설 H0이 사실일 때(µ에 µ0 대입) 만족하는 T분포' 구하기

 

 

≫ 유의확률 & 유의수준을 이용한 검정

→ 유의확률(p-value) = 귀무가설 H0가 사실일 때 검정통계량 T분포에서의 t0(표본자료로 계산된 t분포에서의 위치)보다 대립가설 방향(더 줄어드는 방향)으로 더 극단적인 값이 나올 확률

→ 「p-value <= 유의수준 α」이면 H0를 기각하는 걸로 결론!

 

<<p-value>>

 

"In null-hypothesis significance testing, the p-value is the probability of obtaining test results at least as extreme as the results actually observed, under the assumption that the null hypothesis is correct."

 

→ 여기서의 p-value는 주어진 가설에 대해서 '얼마나 근거가 있는 지'에 대한 값을 0과 1사이의 scale로 나타낸 지표이며 p-value가 낮다는 것은 귀무가설이 틀렸을 가능성이 높다는 걸 뜻함!

(p-value가 낮으면 낮을수록 유의수준보다 작을 가능성이 크므로!)

→ 풀어서 얘기하자면 우리가 뽑은 sample 데이터로 내릴 수 있는 결론으로 '귀무가설이 우연히 맞다'라고 맞을 확률을 p-value!

 

≫ 기각 결과 내릴 수 있는 검정 결론 유형 🤔 (결론이므로 주의해서 유형 구분하자)
(유형구분은 문제마자 절댓값의 여부 & 문제에서 요구하는 부분에 따라 검정 결과 유형 나눌 수 있음)

→ 단측 검정(one-sided t-test)을 통해서는 귀무가설 기각 시 표본평균이 모평균보다 큰 지, 작은 지 대소비교 결과를 내릴 수 있고

→ 양측 검정(two-sided t-test)을 통해서는 귀무가설 기각 시 표본평균이 모평균과 같거나 다른 지 결과를 내릴 수 있다.

[2] 예제

Q. 어느 극장에서 판매하는 팝콘 한 봉지에는 부풀어지지 않은 옥수수를 평균 5개 이하만 포함하고 있다고 주장한다. 이 주장을 판단하기 위해서 팝콘 25봉지를 조사하였더니 부풀어지지 않은 팝콘 개수의 표본평균이 4.8개, 표본분산이 0.3. 부풀어지지 않은 팝콘의 개수는 정규분포를 따른다고 할 때, 이 주장의 타당성 여부를 유의수준 5% 범위 내에서 검정하여라

 

A.

1> 귀무가설

→ 모집단 - '부풀어지지 않은 옥수수 수'의 평균 µ = 5

→ 즉 H0는 '표본집단 팝콘 1봉지에서의 부풀어지지 않은 옥수수의 개수는 모집단의 평균 5개와 같다'

 

2> 검정통계량 & 확률분포

→ 귀무가설 H0가 사실이면,,, 모집단은 정규분포를 따른다고 가정(위 문제)할 때 (모분산은 안나와있음 - 모름)

→ 해당 T분포는 아래와 같은 식으로 쓸 수 있고 (표본집단 개수 25봉지 - n & 모평균 5 - µ), 표본의 정보(표본평균 & 표본분산)를 넣으면 아래와 같은 식으로 나타낼 수 있다.

 

- T분포를 통해 표본 정보를 대입해서 구한 값 -

 

 

3> 검정

→ p-value의 정의에 의해 P[T<-1.8257] = 0.0401 < 0.05 (유의수준 α)

 

4> 결론

→ p-value가 유의수준 0.05보다 작으므로 귀무가설이 기각됨

→ '따라서 한 봉지당 부풀어지지 않은 옥수수의 수가 평균 5개보다 작다'

---

3. w/ python code

《scipy - One Sample T-test docu》

https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.ttest_1samp.html

 

"Calculate the T-test for the mean of ONE group of scores. This is a test for the null hypothesis that the expected value (mean) of a sample of independent observations a is equal to the given population mean, popmean."

 

from scipy import stats

scipy.stats.ttest_1samp(a, popmean, axis=0, nan_policy='propagate', alternative='two-sided')

 

≫ a = 관측치 'Sample observation'

≫ popmean = 우리가 바라는 H0에의 기댓값 - 즉 모평균 'Expected value in null hypothesis'

≫ nan_policy = nan 처리 방법 'Defines how to handle when input contains nan' (default는 nan 그대로 return)

≫ alternative = Ha 결정방법 - 'Defines the alternative hypothesis' (default는 two-sided 양측검정)

- 'less'이면 주어진 popmean보다 작다고 Ha를 세울 수 있고, 'greater'이면 더 크다고 Ha를 세울 수 있다

 

"즉, 쉽게 말하면..! 😺 '관측치 a를 popmean 모집단 평균하고 같다는 가정 하에 나온 p-value 값에 따라 alternative로 세운 Ha를 채택할 것인 지 말 것인 지 결정한다'라고 말할 수 있다!"

 

≫ 함수 결과 검정통계량 t값과 p-value 이렇게 두 개가 return된다

 

예시>

Q. 동전 던지기를 한다고 가정해보자. 한 번 던질 때 앞면이 나올 확률이 0.6이라고 할 때, 동전을 각각 10번 / 100번 / 1000번 던진 결과 총 합쳐서 앞면이 나올 확률(해당 이항분포)의 평균이 유의수준 5% 범위 내에서 0.5라고 말할 수 있는 지를 검정하여라

 

A)

1> 귀무가설 H0 '동전을 여러 번 던진 결과 앞면이 나올 총 확률이 0.5이다'

 

2> ttest_1samp method 사용하기

 

print(stats.ttest_1samp(np.random.binomial(n = 1, p = 0.6, size = 10), .5))
print(stats.ttest_1samp(np.random.binomial(n = 1, p = 0.6, size = 100), .5))
print(stats.ttest_1samp(np.random.binomial(n = 1, p = 0.6, size = 1000), .5))

#returns
#Ttest_1sampResult(statistic=1.3093073414159542, pvalue=0.22286835013352013) 10번 던질 때
#Ttest_1sampResult(statistic=1.8207158484808839, pvalue=0.07167088885580167) 100번 던질 때
#Ttest_1sampResult(statistic=5.8501734426276215, pvalue=6.650107077235998e-09) 1000번 던질 때

 

3> 결론

≫ 10번 & 100번 던진 결과 앞면이 나올 총 확률은 0.5라고 통계적 유의성 범위 내에서 말할 수 있다.

(p-value가 0.05보다 크므로 귀무가설을 기각할 수 없음)

 

≫ 하지만 1000번 던진 결과 총 확률은 0.5라고 통계적 유의성 범위 내에서 말할 수는 없다 (p-value가 0.05보다 작음)

 

◎ 이항분포에 의해 앞면 던질 확률이 0.6이므로 1000번 던질 때 0.6인 평균에 수렴한다고 알려져 있다.

이를 one-sample t-test를 통해 p-value로 검정할 수 있다. ◎

 

print(stats.ttest_1samp(np.random.binomial(n = 1, p = 0.6, size = 1000), .6))
#Ttest_1sampResult(statistic=0.9743300127314252, pvalue=0.3301285675518827)

 

≫ p-value가 0.05보다 크므로 0.6인 평균에 수렴한다고 (귀무가설 - 앞면이 나올 총 확률 0.6 - 기각되지 않음) 말할 수 있음!

---

 

* 썸네일 source) https://kennethrfaro.com/capabilities

* 출처1) https://en.wikipedia.org/wiki/P-value

* 출처2) https://blog.minitab.com/en/adventures-in-statistics-2/understanding-t-tests-1-sample-2-sample-and-paired-t-tests

* 출처3) https://bluehorn07.github.io/mathematics/2021/04/27/student-t-distribution.html