NVIDIA가 4세대 텐서코어가 적용된 H100 GPU의 상세한 정보를 공개했습니다. H100은 세계최초로 HBM3 메모리 아키텍처를 적용하였으며

5개 HBM 사이트와 80GB 메모리를 제공합니다. 

메모리 대역폭은 3TB/s을 제공하여 HBM2 아키텍처가 적용된 기존 P100 , V100 , A100 GPU 보다 더욱 넓은 대역폭을 제공하게 되었습니다. 

132개의 SM , 4세대 텐서코어 PCIe 5.0 인터페이스 , 세계최초 HBM3 메모리 지원 , 4세대 NVLink등을 지원하면서 전체적인 성능이 30% 향상되었다고

합니다. H100 GPU는 HPC , AI 트레이닝 등의 성능에서 기존 A100 GPU를 약 2x ~ 8x 수준으로 압도하는 성능을 보여준다고 합니다. 

https://wccftech.com/nvidia-hopper-h100-4th-gen-tensor-core-twice-as-fast-clock-for-clock/