파라미터 효율적 미세조정 편집하기 (부분)

==비교==
{| class="wikitable"
!기법!!학습되는 파라미터 비율(예시)!!구조 수정/삽입!!주요 적용 위치!!장점!!단점
|-
|LoRA||약 0.1%||선형층 내부 저랭크 보정(BA)||Q/K/V, MLP||고성능·저비용, 추론 시 merge 가능||rank·적용 위치 튜닝 필요
|-
|Adapter||0.5%~8%||bottleneck 모듈 + skip 삽입(레이어당 1~2개)||블록 사이(ATTN/FFN)||모듈 교체로 멀티태스크 용이||약간의 추론 지연·파라미터 증가
|-
|BitFit||약 0.09% (BERT 기준)||구조 변경 없음(bias만 학습)||전 층 bias||극단적 효율성과 간편함||복잡 태스크에서 성능 한계
|}