앙상블 기법 편집하기 (부분)

=== 부스팅 ===
;성능이 약한 학습기(weak learner)를 여러 개 연결하여 순차적으로 학습함으로써 강한 학습기(strong learner)를 만드는 앙상블 학습기법
[[파일:부스팅(Boosting).png]]
* 장단점
** '''장점''': 오답에 대해 높은 가중치를 부여하고 정답에 대해 낮은 가중치를 부여하여 오답에 더욱 집중
** '''단점''': 이상치(Outlier)에 취약
* 종류
{| class="wikitable"
|-
! 종류 !! 설명
|-
| 아다부스팅
(AdaBoost)
||
* Adaptive Boosting
* [[언더피팅]] 됐던 학습 데이터 샘플의 가중치를 높여감
|-
| 그래디언트 부스팅
(Gradient Boosting)
|| 
* 가중치 업데이트를 경사 하강법(Gradient Descent)을 이용
* 학습 전단계 모델에서의 잔여 오차에 대해 새로운 모델을 학습시키는 방법
|}