LoRA (인공지능): 편집 역사

2025년 10월 30일 (목)

• 최신이전 05:182025년 10월 30일 (목) 05:18‎ 인공무능 토론 기여‎ 4,694 바이트 +4,694‎ 새 문서: '''LoRA'''(Low-Rank Adaptation)는 대형 언어모델(LLM) 등 초거대 신경망의 선형층(linear layer)을 효율적으로 미세조정(fine-tuning)하기 위한 '''저차원 보정'''(low-rank adaptation) 기법이다.<ref name="lora2022">[https://arxiv.org/abs/2106.09685 Hu, Edward J., et al. "LoRA: Low-Rank Adaptation of Large Language Models." ICLR (2022).]</ref> 전체 파라미터를 재학습하지 않고, 각 선형변환 가중치 행렬에 작은 저랭크(rank-... 태그: 시각 편집