NVIDIA prezentuje GPU GH200 Grace Hopper z pamięcią HBM3e

NVIDIA ujawniła odnowioną wersję platformy Grace Hopper Superchip nowej generacji dla sztucznej inteligencji i obliczeń o wysokiej wydajności. Nowa wersja GH200 Grace Hopper jest wyposażona w to samo CPU Grace i GPU GH100 Hopper, ale otrzymała pamięć HBM3e o większej pojemności i przepustowości.

GH200 Grace Hopper

Nowy GH200 Grace Hopper Superchip jest oparty na 72-rdzeniowym procesorze Grace wyposażonym w 480 GB pamięci ECC LPDDR5X, a także układzie graficznym GH100 połączonym z 141 GB pamięci HBM3e, która jest dostarczana w sześciu 24-gigabajtowych stosach i wykorzystuje 6144-bitowy interfejs. Co ciekawe, NVIDIA fizycznie instaluje 144 GB pamięci, tylko 141 GB jest dostępne dla lepszego uzysku.

NVIDIA ujawniła odnowioną wersję platformy Grace Hopper Superchip nowej generacji z GPU wyposażonym w pamięć HBM3e.

Obecny układ Nvidii GH200 Grace Hopper Superchip jest wyposażony w 96 GB pamięci HBM3, zapewniając przepustowość mniejszą niż 4 TB/s. Z kolei nowy model zwiększa pojemność pamięci o około 50% i zwiększa przepustowość o ponad 25%. Tak duży skok umożliwia nowej platformie uruchamianie większych modeli AI niż oryginalna wersja i zapewniają istotną poprawę wydajności (co będzie szczególnie ważne w przypadku szkoleń AI).

Według Zielonych, platforma Nvidii GH200 Grace Hopper z HBM3 jest obecnie w produkcji i będzie dostępna na rynku od przyszłego miesiąca. Z kolei platforma GH200 Grace Hopper z HBM3e jest obecnie próbkowana i ma być dostępna w drugim kwartale 2024 roku. NVIDIA podkreśliła, że ​​nowy GH200 Grace Hopper wykorzystuje to samo CPUr Grace i GPUGH100, co oryginalna wersja, więc nie będzie musiała wprowadzać żadnych nowych rewizji i steppingów.

GH200 z HBM3 i GH200 z HBM3E będą współistnieć

Producent twierdzi ponadto, że oryginalny GH200 z HBM3 i ulepszony GH200 z HBM3E będą współistnieć na rynku, co oznacza, że ​​ten drugi będzie sprzedawany z wyższą ceną, biorąc pod uwagę jego wyższą wydajność, jaką zapewnia bardziej zaawansowana pamięć.

„Aby sprostać rosnącemu zapotrzebowaniu na generatywną sztuczną inteligencję, centra danych wymagają przyspieszonych platform obliczeniowych o specjalistycznych potrzebach” — powiedział Jensen Huang, dyrektor generalny NVIDII. „Nowa platforma GH200 Grace Hopper Superchip zapewnia to dzięki wyjątkowej technologii pamięci i przepustowości w celu zwiększenia przepustowości, możliwości łączenia procesorów graficznych w celu bezkompromisowej agregacji wydajności oraz konstrukcji serwera, którą można łatwo wdrożyć w całym centrum danych”.

Platforma nowej generacji Grace Hopper Superchip z HBM3e jest w pełni kompatybilna ze specyfikacją serwera MGX NVIDII, a zatem jest obsługiwana przez istniejące serwery, co ułatwi wdrażanie.