[GPU] NVIDIA L4 Tensor Core 그래픽카드 (엔비디아 A2, T4와 비교)
비디오, AI 및 그래픽 워크로드 가속화
NVIDIA L4 Tensor Core 그래픽카드는 주로 비디오, AI, 비주얼 컴퓨팅, 그래픽, 가상화 등을 위해 에너지 효율적인 가속을 제공합니다. 로우 프로파일(LP) 폼팩터를 가진 NVIDIA L4 Tensor Core 그래픽카드는 엣지컴퓨팅부터 데이터센터, 클라우드에 이르기까지 폭넓은 사용처에서 높은 처리량과 낮은 지연시간을 제공하는 비용/에너지 효율적인 솔루션입니다.
실시간 AI 비디오 파이프라인 성능 경험하기 NVIDIA L4의 성능으로 비디오 애플리케이션을 혁신하세요. L4가 장착된 서버는 수백만 명의 시청자에게 라이브 스트리밍하거나 사용자가 창의적인 스토리를 만들 수 있도록 하거나 몰입형 증강 및 가상 현실(AR/VR) 경험을 제공할 때 모바일 사용자를 위해 720p30에서 최대 1,040개의 동시 AV1 비디오 스트림을 호스팅할 수 있습니다.¹
4세대 텐서 코어와 1.5배 더 큰 GPU 메모리를 갖춘 NVIDIA L4 GPU는 CV-CUDA® 라이브러리와 결합하여 비디오 콘텐츠 이해 성능을 새로운 차원으로 끌어올립니다. L4는 CPU 기반 솔루션보다 120배 더 높은 AI 비디오 성능을 제공하므로 기업은 실시간 인사이트를 확보하여 콘텐츠를 개인화하고, 검색 관련성을 개선하고, 불쾌한 콘텐츠를 감지하고, 스마트 공간 솔루션을 구현할 수 있습니다.
1. 측정된 성능: 720p30에서 8x L4 AV1 저지연 P1 프리셋 인코딩.
L4로 에너지와 공간 절약 AI와 비디오가 더욱 널리 보급됨에 따라 효율적이고 비용 효율적인 컴퓨팅에 대한 수요가 그 어느 때보다 증가하고 있습니다. NVIDIA L4 Tensor 코어 GPU는 최대 120배 더 뛰어난 AI 비디오 성능을 제공하여 기존 CPU 기반 인프라에 비해 최대 99% 더 나은 에너지 효율과 더 낮은 총 유지 비용을 자랑합니다. 이를 통해 기업은 랙 공간을 줄이고 탄소 발자국을 크게 줄이면서 데이터센터를 더 많은 사용자에 맞게 확장할 수 있습니다. 2메가와트(MW) 데이터센터에서 CPU에서 NVIDIA L4로 전환하여 절약되는 에너지는 거의 2,000가구에 1년간 전력을 공급하거나 10년간 172,000그루의 나무를 심어 탄소 배출량을 상쇄할 수 있는 양과 같습니다.²
생성형 AI 성능 가속화 이미지와 텍스트를 위한 생성형 AI는 모든 산업에서 고객의 삶을 더욱 편리하게 만들고 몰입감 넘치는 경험을 제공합니다. NVIDIA L4는 이전 GPU 세대에 비해 최대 2.5배 더 높은 성능을 제공하여 컴퓨팅 집약적인 생성형 AI 추론을 강화합니다. 또한 50% 더 많은 메모리 용량을 갖춘 L4는 이전 GPU 세대에서는 불가능했던 최대 1024x768의 더 큰 이미지를 생성할 수 있습니다.
그래픽 성능 최적화 3세대 RT 코어와 AI 기반 NVIDIA 딥러닝 슈퍼 샘플링 3(DLSS 3)를 통해 NVIDIA L4는 AI 기반 아바타, NVIDIA Omniverse™ 가상 세계, 클라우드 게임 및 가상 워크스테이션에 대해 4배 이상 높은 성능을 제공합니다. 이러한 기능을 통해 크리에이터는 CPU로는 불가능한 몰입형 시각적 경험을 위한 실시간 영화 품질의 그래픽과 장면을 구축할 수 있습니다.
효율적이고 지속 가능한 워크로드 가속화 NVIDIA L4는 NVIDIA 데이터센터 플랫폼의 필수적인 부분입니다. 비디오, AI, NVIDIA RTX™ 가상 워크스테이션(vWS), 그래픽, 시뮬레이션, 데이터 과학 및 데이터 분석을 위해 구축된 이 플랫폼은 3,000개 이상의 애플리케이션을 가속화하며 데이터센터부터 엣지, 클라우드에 이르기까지 모든 곳에서 대규모로 사용할 수 있어 극적인 성능 향상과 에너지 효율성 기회를 모두 제공합니다. 메인스트림 배포에 최적화된 L4는 72W 저전력 범위에서 작동하는 로우 프로파일 폼 팩터를 제공하므로 NVIDIA 파트너 에코시스템의 모든 서버 또는 클라우드 인스턴스에 효율적이고 비용 효율적인 솔루션이 될 수 있습니다.
Enterprise-Ready AI 소프트웨어로 개발 및 배포 간소화 AI 개발 및 배포를 간소화하도록 최적화된 NVIDIA AI 엔터프라이즈 소프트웨어 제품군에는 일반적인 데이터센터 플랫폼 및 NVIDIA L4 GPU가 탑재된 메인스트림 NVIDIA 인증 시스템™에서 실행되도록 인증된 AI 솔루션 워크플로우, 프레임워크, 사전 학습된 모델 및 인프라 최적화가 포함되어 있습니다.
NVIDIA AI 엔터프라이즈는 거의 모든 조직에서 트레이닝, 추론 및 데이터 사이언스 분야에서 최고의 성능으로 AI에 액세스할 수 있도록 지원하는 NVIDIA L4 GPU용 라이선스 추가 제품입니다. NVIDIA AI Enterprise는 NVIDIA L4와 함께 AI 지원 플랫폼 구축을 간소화하고, AI 개발 및 배포를 가속화하며, 성능, 보안 및 확장성을 제공하여 인사이트를 더 빠르게 수집하고 비즈니스 가치를 더 빨리 달성할 수 있도록 지원합니다.
소규모 서버 및 중소기업 최적화 그래픽카드 NVIDIA L4 Tensor Core 그래픽카드는 H100, A100 등 하이엔드 서버용 GPU보다 경제성 있는 가격과 적은 에너지 소비 대비 효율적인 처리속도, 그리고 작은 크기로 중소 사업장에 특화된 그래픽카드입니다. 서버, 워크스테이션, 클라우드 서비스 등의 시작, 혹은 확장을 계획하고 있지만 가격과 에너지 효율성 측면에서 망설여지시는 분들께 NVIDIA L4 Tensor Core 그래픽카드는 좋은 선택지가 될 것입니다.
타 제품 대비 비교 사양
| NVIDIA
L4, A2 및 T4 사양 |
엔비디아 L4 |
엔비디아 A2 |
엔비디아 T4 |
| 아키텍처 | Ada Lovelace | Ampere | Turing | | GPU 메모리 | 24GB GDDR6 | 16GB GDDR6 | 16GB GDDR6 |
| 메모리 대역폭 | 300GB/s | 200GB/s | 300GB/s |
| 인터페이스 | PCIe Gen4x16 | PCIe Gen4x8 | PCIe Gen3x16 |
| 폼펙터 | Low-profile, Single Slot | Low-profile, Single Slot | Low-profile, Single Slot |
| TDP | 72W | 40-60W (Configurable) | 70W |
| FP32 연산성능 | 30.3 TFLOPS | 4.5 TFLOPS | 8.1 TFLOPS |
| FP16 텐서성능 | 242 TFLOPS (sparsity 적용) | 18 TFLOPS (sparsity 적용) | 65 TFLOPS (FP16/FP32) |
| INT8 텐서성능 | 485 TOPS (sparsity 적용) | 36 TFLOPS (sparsity 적용) | 130 TOPS |
| INT4 텐서성능 | 485 TOPS (sparsity 적용) | 72 TFLOPS (sparsity 적용) | 260 TOPS |
| 비디오 인코더 | 2x NVENC | 1x NVENC | 1x NVENC |
| 비디오 디코더 | 4x NVDEC + 4x JPEG | 2x NVDEC | 2x NVDEC |
| 출시 시기 | 2023년 3월 | 2021년 6월 | 2018년 9월
|
* sparsity(희소성) 적용 시 최대 성능, 실제 성능은 절반 수준일 수 있음
출처 : https://www.nvidia.com/ko-kr/data-center/l4/ NVIDIA,엔비디아,L4,LP,1슬롯,그래픽카드,GPU,저전력,저비용,텐서코어,TENSOR CORE
엔비디아 L8 장착 서버 구매링크: 슈퍼마이크로 Supermicro SYS-421GE-TNRT STCOM (6526Yx2EA, 256GB, SSD 960GB, L4x8EA) (레일킷 포함) : 서버비즈 슈퍼마이크로 Supermicro AS-1015A-MT EPYC4584PX STCOM (64GB, SSD 1.9TB, L4x1EA) (레일킷 포함) : 서버비즈 슈퍼마이크로 Supermicro AS-1015A-MT EPYC4464P STCOM (64GB, SSD 1.9TB, L4x1EA) (레일킷 포함) : 서버비즈 슈퍼마이크로 Supermicro AS-1015A-MT EPYC4344P STCOM (64GB, SSD 1.9TB, L4x1EA) (레일킷 포함) : 서버비즈
해당제품 국내재고 보유중이며 즉납 가능합니다.
보다 자세한 상담을 원하실 경우 서버비즈특판팀으로 전화 및 메일 문의 부탁드립니다.
대표전화 : 02) 707-0120 내선 : 8891 (토/일요일 및 공휴일 휴무) | 전자우편 : sales_b2b@stcom.co.kr
| 
