표본 분포

Sampling Distribution; 표본 분포

같은 크기의 표본을 반복해서 뽑을 때 표본에서 계산한 통계량(표본평균 등)이 이루는 확률분포

모집단 전체를 조사할 수 없으므로 표본의 통계량으로 모수를 추정한다. 표본마다 통계량 값이 달라지는데, 그 흩어짐이 어떤 분포를 따르는지 알아야 신뢰구간과 가설 검정을 할 수 있다.

용어

• 모수(parameter) : 모집단의 특성값. 모평균 $\mu$, 모분산 ${\sigma }^2$, 모비율 $p$
• 통계량(statistic) : 표본에서 계산한 값. 표본평균 $\overline{X}$, 표본분산 $S^2$, 표본비율 $\hat{p}$
• 표준오차(Standard Error) : 통계량의 표준편차. 추정의 정밀도를 나타낸다

표본평균의 분포

평균 $\mu$, 분산 ${\sigma }^2$인 모집단에서 크기 n의 확률표본을 뽑으면

• $E(\overline{X})=\mu$
• $Var(\overline{X})=\frac{{\sigma }^2}{n}$
• 표준오차 $SE(\overline{X})=\frac{\sigma }{\sqrt{n}}$ (σ를 모르면 $\frac{s}{\sqrt{n}}$으로 추정)
• 표본 크기를 4배로 늘리면 표준오차는 절반이 된다
• 모집단이 정규분포이면 $\overline{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$이 n에 관계없이 정확히 성립한다

표본비율의 표준오차는 $SE(\hat{p})=\sqrt{\frac{p(1-p)}{n}}$이다.

중심극한정리

모집단 분포와 관계없이 표본 크기 n이 충분히 크면 표본평균의 분포가 정규분포에 가까워진다.

$\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}\to N(0,1)(n\to \mathrm{\infty })$ (분포 수렴)

• 보통 n ≥ 30이면 근사가 쓸 만하다고 본다(경험 규칙이며, 모집단이 많이 치우치면 더 커야 한다)
• 모분산이 유한해야 한다

큰 수의 법칙

표본 크기가 커질수록 표본평균이 모평균에 수렴한다.

${\overline{X}}_n\to \mu (n\to \mathrm{\infty })$

큰 수의 법칙은 "어디로 수렴하는가"(값), 중심극한정리는 "어떤 모양으로 흩어지는가"(분포)를 말한다.

주요 표본분포

분포	통계량	쓰는 곳
표준정규	$Z=\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}$	모분산을 알 때 또는 대표본의 평균 추정·검정, 비율 검정
t	$T=\frac{\overline{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$	모분산을 모르는 정규 모집단의 평균 추정·검정(t-검정)
카이제곱	$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$	모분산 추정·검정, 적합도 검정, 독립성 검정(카이제곱 검정)
F	$F=\frac{S_1^2/{\sigma }_1^2}{S_2^2/{\sigma }_2^2}\sim F(n_1-1,n_2-1)$	두 모분산 비교, 분산분석, 회귀모형 유의성 검정

t, 카이제곱, F 분포 모두 자유도에 따라 모양이 바뀐다.

import numpy as np

rng = np.random.default_rng(0)
pop = rng.exponential(scale=2.0, size=100_000)          # 치우친 모집단
means = [rng.choice(pop, 50).mean() for _ in range(5000)]
print(np.mean(means), np.std(means), pop.std() / np.sqrt(50))  # 평균≈μ, 표준편차≈σ/√n

시험 포인트

• 표준오차 $\sigma /\sqrt{n}$ 계산, 표본 크기를 바꿨을 때 표준오차 변화
• 중심극한정리와 큰 수의 법칙의 구분
• 상황별로 Z·t·카이제곱·F 중 무엇을 쓰는지 고르기

같이 보기

• 확률 분포
• 표본추출
• 통계적 추정
• 신뢰구간
• t-검정
• 빅데이터분석기사 교본

참고 문헌

• SciPy User Guide: Statistics (scipy.stats)