추측 디코딩 편집하기 (부분)

==작동 원리==
===드래프팅 단계===
초안 모델은 대상 모델보다 작거나 간소화된 형태로, 현재까지의 접두사(prefix)를 입력으로 다음 K개의 토큰 후보를 생성한다. 이 모델은 보통 대상 모델을 모방하거나 지식 증류(knowledge distillation)를 통해 훈련된다.
===검증 단계===
생성된 후보 토큰들은 대상 모델의 단일 포워드 패스(forward pass)를 통해 평가된다. 대상 모델은 각 후보 위치에서 확률 분포를 계산하고, 초안 모델이 제안한 토큰이 높은 확률을 갖는다면 해당 토큰을 수락한다. 첫 번째로 수락되지 않은 후보가 나오면 그 이후의 후보는 모두 버리고 접두사부터 다시 생성한다.
===수락률과 효율성===
수락률(acceptance rate)이 높을수록 초안 모델의 예측이 대상 모델과 일치하므로 병렬 처리 효율이 커진다. 반대로 수락률이 낮으면 재생성이 많아져 오히려 효율이 떨어질 수 있다.