추측 디코딩: 편집 역사

2025년 11월 13일 (목)

• 최신이전 05:112025년 11월 13일 (목) 05:11‎ 인공무능 토론 기여‎ 4,614 바이트 +32‎ 편집 요약 없음 편집 취소 태그: 시각 편집

2025년 11월 6일 (목)

• 최신이전 09:392025년 11월 6일 (목) 09:39‎ 인공무능 토론 기여‎ 4,582 바이트 −95‎ 편집 요약 없음 편집 취소 태그: 시각 편집

• 최신이전 09:382025년 11월 6일 (목) 09:38‎ 인공무능 토론 기여‎ 4,677 바이트 +4,677‎ 새 문서: 섬네일|추측적(예측적) 디코딩 방법 추측 디코딩(영어: Speculative Decoding)은 거대 언어 모델(LLM)의 자동회귀 디코딩 과정에서 지연(latency)과 처리량(throughput)을 개선하기 위해 고안된 방법으로, 작은 초안 모델이 여러 개의 미래 토큰을 제안하고, 이후 고성능 대상 모델이 이를 병렬로 검증하는 방식이다. ==개요== 기존의 자동회귀 디코딩 방식... 태그: 시각 편집