공분산

IT 위키

공분산(共分散, covariance)은 두 확률 변수 간의 선형 관계를 나타내는 통계량이다. 공분산은 두 변수의 편차 곱의 평균으로 정의되며, 양의 값을 가지면 두 변수는 대체로 같은 방향으로 변화하고, 음의 값을 가지면 반대 방향으로 변화한다.

정의[편집 | 원본 편집]

두 확률 변수 X와 Y에 대해, 공분산은 다음과 같이 정의된다.

  • 모집단 공분산: Cov(X, Y) = E[(X - μX)(Y - μY)]
  • 표본 공분산: SXY = (1 / (n - 1)) ∑i=1n (xi - x̄)(yi - ȳ)

여기서 E는 기대값, μX와 μY는 각각 X와 Y의 기대값, x̄와 ȳ는 표본 평균이다. ==성질==*Cov(X, Y) > 0: X와 Y가 정적인 상관 관계를 가진다.

  • Cov(X, Y) < 0: X와 Y가 부적인 상관 관계를 가진다.
  • Cov(X, Y) = 0: X와 Y 사이에 선형 상관 관계가 없다. 그러나 이는 독립성을 의미하지는 않는다.
  • Cov(X, X) = Var(X): 자기 자신과의 공분산은 분산과 같다.
  • 상수 a, b에 대해 Cov(aX + b, Y) = a × Cov(X, Y)이다.

계산 예시[편집 | 원본 편집]

다음은 두 변수 X와 Y의 표본 공분산을 구하는 실제 예시이다.

표본 데이터:

  • X = [2, 4, 6, 8]
  • Y = [1, 3, 5, 7]

1. 평균 계산:

  • x̄ = (2 + 4 + 6 + 8) / 4 = 5
  • ȳ = (1 + 3 + 5 + 7) / 4 = 4

2. 편차 곱 계산:

  • (2−5)(1−4) = (−3)(−3) = 9
  • (4−5)(3−4) = (−1)(−1) = 1
  • (6−5)(5−4) = (1)(1) = 1
  • (8−5)(7−4) = (3)(3) = 9

3. 편차 곱의 합: 9 + 1 + 1 + 9 = 20

4. 표본 공분산:

  • SXY = 20 / (4−1) = 20 / 3 ≈ 6.67

따라서, 이 데이터의 공분산은 약 6.67이다.

공분산과 상관 계수[편집 | 원본 편집]

공분산은 단위에 따라 값의 크기가 달라지므로 비교가 어렵다. 이를 보완하기 위해 두 변수의 표준편차로 나누어 정규화한 값이 상관 계수(correlation coefficient)이다.

  • Corr(X, Y) = Cov(X, Y) / (σX × σY)

공분산 행렬[편집 | 원본 편집]

다변량 데이터에서는 여러 변수 간의 공분산을 행렬로 표현할 수 있다. 이를 공분산 행렬(covariance matrix)이라고 하며, 대칭 행렬의 성질을 가진다.

예시:

  • 변수 X, Y, Z에 대한 공분산 행렬은 다음과 같다.
  | Var(X)   Cov(X,Y) Cov(X,Z) |
  | Cov(Y,X) Var(Y)   Cov(Y,Z) |
  | Cov(Z,X) Cov(Z,Y) Var(Z)   |
  

활용[편집 | 원본 편집]

  • 통계학과 데이터 과학에서 변수 간의 관계 파악
  • 주성분 분석(PCA)에서 데이터 분산 방향 파악
  • 금융 분야에서 포트폴리오 이론 및 리스크 분석

같이 보기[편집 | 원본 편집]

참고 문헌[편집 | 원본 편집]

  • Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
  • Wasserman, L. (2004). All of Statistics: A Concise Course in Statistical Inference. Springer.

각주[편집 | 원본 편집]