서포트 벡터 머신

SVM; Support Vector Machine

대상을 분류할 때 마진이 가장 커지는 Decision Boundary를 그려 분류하는 방법

• 딥러닝 이전 기계학습 모델에 해당한다.

구성

• Support Vector
• Decision Boundary
  • (1차원) Decision Value(Threshold)
  • (2차원) Decision Line
  • (3차원) Decision Plane
  • (4차원 이상) Decision Hyperplane
  • (2차원 곡선) Decision Curve
  • (3차원 곡면) Decision Surface
  • (4차원 이상 곡면) Decision Hypersurface
• Margin
  • Hard Margin: Decision Boundary에서 여유를 두지 않는 최대 Margin
  • Soft Margin: Decision Boundary에서 일반화를 위해 약간의 여유를 두는 Margin

서포트 벡터

Decision Boundary를 구하는 방법으로, 서포트 벡터를 이용한다.

• 특정 레이블 개체들 중 바깥 면에 있는 개체를 지나가도록 선을 그리고
• 평행선의 마진이 가장 넓어지는 서포트 벡터를 선정한 후
• 그 경계선 중간 지점에 Decision Boundary를 그린다.
• 즉 결정에 영향을 끼치는 관측치를 서포트 벡터(Support Vector)이라고 한다.