가지치기 (딥 러닝)
IT 위키
가지치기(영어: Pruning)는 딥 러닝에서 신경망의 불필요한 파라미터(가중치나 뉴런 연결)를 제거하여 모델의 크기를 줄이고 연산 효율을 높이는 기법이다. 이는 나무의 불필요한 가지를 잘라내는 원예 작업에서 유래한 용어로, 신경망의 성능은 유지하면서도 경량화를 달성하기 위해 사용된다.
개요
- 딥 러닝 모델은 수백만~수십억 개의 파라미터를 가지며, 이 중 일부는 학습 결과에 크게 기여하지 않는다.
- 가지치기는 중요도가 낮은 파라미터를 제거하여, 계산량(MACs, FLOPs)을 줄이고 메모리 사용량을 절감한다.
- 모델 압축, 지연 시간(latency) 단축, 에너지 절약 등을 위해 활용된다.
방법
가지치기는 어떤 파라미터를 제거할지를 결정하는 기준(criteria)에 따라 여러 방식으로 나눌 수 있다.
가중치 기반 가지치기 (Magnitude pruning)
- 원리 : 가중치의 절댓값이 작을수록 모델에 기여하는 영향이 적다고 가정하고, 임계치(threshold) 이하의 가중치를 제거한다.
- 장점
- 구현이 단순하고 직관적이다.
- 추가 계산 비용이 거의 없다.
- 단점**입력 데이터의 중요도나 실제 예측 성능에 대한 영향을 고려하지 못한다.
- 잘못 적용하면 중요한 연결이 제거되어 정확도 저하가 발생할 수 있다.
기울기 기반 가지치기 (Gradient pruning)
- 원리 : 학습 과정에서의 기울기(gradient)가 작은 파라미터는 손실 함수에 미치는 영향이 적다고 판단하여 제거한다.
- 장점
- 학습 동역학을 반영할 수 있어 단순한 크기 기준보다 정교하다.
- 단점
- 학습 데이터 분포나 특정 시점에 의존할 수 있다.
- 계산 비용이 추가로 발생한다.
헤세 행렬 기반 가지치기 (Hessian pruning)
- 원리 : 손실 함수의 2차 미분(헤세 행렬)을 이용하여, 제거 시 손실 변화가 작은 파라미터를 우선적으로 가지치기한다.
- 장점
- 이론적으로 손실에 미치는 영향을 근사할 수 있어 정밀하다.
- 단점
- 헤세 행렬 계산이 매우 비싸며, 대규모 신경망에서는 실용성이 떨어진다.
학습 손실 변화 기반 가지치기 (Training loss change pruning)
- 원리 : 특정 파라미터를 제거했을 때 학습 손실(training loss)의 변화를 직접 평가하여, 손실에 거의 영향을 주지 않는 파라미터를 제거한다.
- 장점
- 모델 성능을 유지하면서 가지치기를 수행할 수 있다.
- 손실 변화에 기반하므로 정확도 저하를 최소화한다.
- 단점
- 계산량이 매우 크고, 대규모 데이터셋에서는 적용하기 어렵다.
- 일부 경우 서브셋 데이터로 근사해야 한다.
구조적 가지치기와 비구조적 가지치기
- 비구조적 가지치기 : 개별 가중치 단위로 제거 → 높은 희소성을 만들지만, 하드웨어 최적화와는 잘 맞지 않을 수 있음
- 구조적 가지치기 : 뉴런, 채널, 필터, 레이어 단위로 제거 → 하드웨어에서 효율적으로 실행 가능하지만, 설계가 더 복잡할 수 있음
특징
- 장점
- 모델 크기 감소 및 저장 공간 절약
- 추론 속도 향상, 지연 시간 단축
- 저전력 디바이스(모바일, IoT)에서 실행 가능
- 단점
- 잘못 가지치기하면 정확도가 크게 하락할 수 있음
- 재학습(fine-tuning)이 필요한 경우가 많음
- 최적의 가지치기 기준을 찾는 것이 어렵다
관련 기법
- 양자화 (딥 러닝) : 파라미터를 저비트 정밀도로 변환하여 모델 크기를 줄임
- 지식 증류 : 큰 모델의 지식을 작은 모델로 전이
- 희소 데이터 : 가지치기 결과 모델은 희소 행렬 형태가 되므로 관련 알고리즘과 밀접한 연관
- 모델 압축
응용
- 모바일 및 임베디드 장치에서의 경량 신경망
- 대규모 언어 모델(LLM) 경량화
- 에너지 효율적 인공지능 시스템 설계
같이 보기
참고 문헌
- Song Han, Jeff Pool, John Tran, William J. Dally. Learning both Weights and Connections for Efficient Neural Networks. NeurIPS 2015.
- Molchanov, P., et al. Pruning Convolutional Neural Networks for Resource Efficient Transfer Learning. ICLR 2017.
