과적합 문제
From IT Wiki
- Overfitting Problem
- 학습을 과하게 시켜 학습 데이터에선 최적의 결과를 내지만 새로운 데이터에 대해선 판단력이 부정확해지는 문제
- 반대의 경우를 부적합 문제라고 한다.
해결법[edit | edit source]
- 다양한 데이터 추가
- 드롭 아웃(Drop Out)
- 조기 중단(Early Stop)
- 제한된 볼츠만 머신(Restricted Boltzman Machine, RBM)
예시[edit | edit source]
- 5가지 종의 강아지 사진 10만장으로 학습을 오랫동안 시킬 경우
- 정확히 5가지 종에 일치하는 강아지에 대해서만 강아지라고 판단
- 3가지 종의 강아지 사진 1만장으로 가볍게 학습을 시킨 경우 오히려 정확도가 높을 수 있음
- 이세돌vs알파고 4국에서 79수 부터
- 이기는 수에 대해서만 학습을 한 알파고는 이길 수 있는 수가 없자 '최선'의 수가 아닌 알 수 없는 수를 둠