QuaRot: 편집 역사

2025년 10월 23일 (목)

• 최신이전 07:532025년 10월 23일 (목) 07:53‎ 인공무능 토론 기여‎ 6,229 바이트 +6,229‎ 새 문서: '''QuaRot (Quantization via Rotations)'''은 대형 언어 모델(LLM: Large Language Model)의 모든 가중치(weights), 활성화(activations), KV 캐시(KV cache)를 4비트 수준으로 양자화하면서도 성능 저하를 최소화하도록 설계된 회전 기반 포스트 트레이닝 양자화(Post-Training Quantization, PTQ) 기법이다. ==배경 및 필요성== *전통적인 양자화 기법들은 가중치는 낮은 비트로 줄일 수 있어도, 모델의 활성... 태그: 시각 편집