학습률 스케줄링 편집하기 (부분)

==대표적인 기법==
*단계 감소(Step Decay): 일정 에포크마다 학습률을 일정 비율로 감소시킨다.
*지수 감소(Exponential Decay): 학습률을 지수 함수 형태로 지속적으로 감소시킨다.
*다단계 감소(Multi-step Decay): 사용자가 지정한 여러 시점에 학습률을 급격히 줄이는 방식이다.
*코사인 스케줄링(Cosine Annealing): 학습률을 코사인 함수 형태로 점차 줄였다가 다시 증가시키는 주기적 방식이다.
*워뮵(Warmup): 학습 초기에 학습률을 천천히 증가시킨 뒤 이후 스케줄링 기법을 적용한다.
*Plateau 감소(Reduce on Plateau): 검증 손실이 일정 에포크 이상 개선되지 않을 경우 학습률을 자동으로 감소시킨다.