엔비디아 L4 편집하기

'''NVIDIA L4'''(엔비디아 L4 Tensor Core GPU)은 엔비디아가 데이터센터, 클라우드 및 엣지(edge) 환경을 위해 설계한 에너지 효율 중심의 범용 가속기이다.
==개요==
NVIDIA L4는 2023년경 출시된 Ada Lovelace 아키텍처 기반 GPU로, 영상 처리, AI 추론(inference), 가상 워크스테이션 및 그래픽 처리까지 폭넓은 워크로드에 대응할 수 있도록 설계되었다.  저전력(약 72 W) 설계 및 단일 슬롯/로우프로파일 폼팩터로 고밀도 서버나 엣지 환경 배치에 적합하다.
==주요 사양==
{| class="wikitable"
!항목!!내용
|-
|아키텍처||NVIDIA Ada Lovelace (AD104 기반)
|-
|FP32(싱글 정밀도) 성능||약 30.3 TFLOPS
|-
|TF32 Tensor 코어 성능||약 60 TFLOPS (희박도 적용 시 약 120 TFLOPS)
|-
|FP16 / BFLOAT16 성능||약 121 TFLOPS (희박도 적용 시 약 242 TFLOPS)
|-
|FP8 Tensor 코어 성능||약 242–485 TFLOPS (희박도 적용 시)
|-
|INT8 성능||약 242.5 TOPS (희박도 적용 시 약 485 TOPS)
|-
|메모리 용량||24 GB GDDR6
|-
|메모리 대역폭||약 300 GB/s
|-
|인터페이스||PCIe Gen4 ×16 (64 GB/s 양방향)
|-
|전력 소비(TDP)||최대 약 72 W
|-
|폼팩터||싱글 슬롯, 로우프로파일(1U/저프로파일) 설계
|}
==특징 및 기술==
*저전력(72 W) 설계이지만 고성능을 내는 것이 특징으로, 서버 랙 밀도와 냉각 효율이 중요한 데이터센터·엣지 환경에 적합하다.
*Ada Lovelace 아키텍처의 4세대 Tensor 코어 및 구조적 희박성(Structured Sparsity) 지원을 통해 FP8·INT8 등 저정밀도 연산에서도 매우 높은 처리량을 달성한다.
*영상 처리 엔진(NVENC/NVDEC) 및 JPEG 디코더 등이 탑재되어 스트리밍, 원격 워크스테이션, 실시간 AI 영상 처리 등에 강점을 가진다.
*다중 GPU 환경이나 고급 학습(training)보다는 추론(inference), 가속된 그래픽/영상 워크로드, 가상화(VGPU) 등에 초점을 둔다.
==활용==
*추천 시스템, 챗봇, 영상 스트리밍, 가상 데스크탑/워크스테이션 환경 등에서 사용된다.
*엣지 서버나 통신사 인프라, 클라우드 서버 팜 등 전력·공간 제약이 있는 환경에 적합하다.
*대형 모델 학습보다는 중형 모델 추론 및 고밀도 배포에 적합하다.
==장점 및 한계==
===장점===
*전력 대비 성능이 매우 높은 편이다.
*메모리 24 GB, 대역폭 300 GB/s으로 중형 AI 모델이나 영상 처리 워크로드에도 대응 가능하다.
*단일 슬롯 설계로 공간 효율성이 높다.
===한계===
*72 W로 전력은 적지만, A100이나 L40S 같은 상위급 GPU보다는 학습(training) 성능이나 메모리 대역폭 측면에서 제한이 있다.
*엔비디아의 서버용 라인업에서 추론/워크스테이션용에 맞춰진 제품이므로, 극한 규모의 학습이나 HPC 워크로드에는 적합하지 않을 수 있다.
*가격이 소비자용 카드보다는 높고, 구매 및 호환성/서버 환경 구축 비용이 고려되어야 한다.
==가격 정보==
*일반 유통 기준 MSRP는 높으며, 일부 소매가에서 약 미화 7,500달러 수준이 보고되었다.
*클라우드 사용 시 시간당 과금 방식으로 제공되며, 약 0.80달러/시간 또는 스팟 가격 기준 약 0.22달러/시간 수준의 사례가 있다.
==같이 보기==
*[[NVIDIA T4]]
*[[NVIDIA A100]]
*[[NVIDIA L40 (GPU)]]
*[[딥러닝 추론]]
*[[엣지 컴퓨팅]]
==참고 문헌==
*[https://www.nvidia.com/en-us/data-center/l4/ NVIDIA, “NVIDIA L4 Tensor Core GPU for AI & Graphics”]
*[https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/l4/PB-11316-001_v01.pdf NVIDIA, “NVIDIA L4 GPU Accelerator Product Brief”]
*[https://www.lenovopress.lenovo.com/lp1717-thinksystem-nvidia-l4-24gb-pcie-gen4-passive-gpu Lenovo Press, “ThinkSystem NVIDIA L4 24GB PCIe Gen4 Passive GPU”]
*[https://www.storagereview.com/review/nvidia-l4-gpu-review-low-power-inferencing-wizard StorageReview, “NVIDIA L4 GPU Review – Low-Power Inferencing Wizard”]
*[https://www.modal.com/blog/nvidia-l4-price-article Modal Blog, “How much does it cost to run NVIDIA L4 GPUs in 2025?”]
*[https://www.shi.com/product/46058191/NVIDIA-L4-GPU-Computing-Processor SHI Direct, “NVIDIA L4 GPU Computing Processor Specifications”]
==각주==
[[분류:인공지능]]
[[분류:GPU]]
[[분류:하드웨어]]