NVIDIA H200 스펙, 출시일, 핵심 기술. H100 vs H200의 Performance, power 비교

NVIDIA는 2023년 11월 14일, Hopper 아키텍처 기반의 서버용 GPU인 H200을 발표했습니다. 출시예정일 : 2024년 2분기 현존 최강 GPU H200은 서버향 GPU로, Cloud & Data Center에서 AI Training 및 Inference에 사용될 것입니다. NVIDIA H200은 HBM3e를 제공하는 최초의 GPU입니다. NVIDIA H200은 4.8TB/seconds의 속도로 141GB의 메모리를 제공합니다. 이는 이전 제품인 NVIDIA A100에 비해 용량은 거의 두 배, 대역폭은 2.4배 더 커졌습니다. H100 vs H200 (Performance & Power) 가격 H200의 가격은 아직 공개되지 않았습니다. H100의 현재 시세가 $40,000정도입니다. 이번 H200의 핵심기술은 아래 2가지입니다. 1. HBM3e 일단 HBM3E를 할 수 있는 Foundry는 삼성전자, SK하이닉스, 마이크론. 3개의 회사입니다. 이 3개의 회사 모...

원문링크 : NVIDIA H200 스펙, 출시일, 핵심 기술. H100 vs H200의 Performance, power 비교