NVIDIA zapowiada GPU H200 i „superchip” GH200 Grace Hopper. Firma chce zostawić rywali daleko w tyle

​​NVIDIA zapowiedziała nową generację chipów AI, które prawdopodobnie odegrają dużą rolę w przyszłych przełomowych osiągnięciach w zakresie głębokiego uczenia się i dużych modeli językowych (LLM), takich jak GPT-4 od OpenAI. Technologia ta stanowi duży skok w porównaniu z poprzednią generacją i może zostać zastosowana w centrach danych i superkomputerach do takich zadań, jak przewidywanie pogody i klimatu, odkrywanie leków, obliczenia kwantowe i nie tylko.

H200

Jedną z nowości NVIDII jest GPU H200 oparte na architekturze „Hopper”, będące następcą popularnego akceleratora graficznego H100. To pierwszy chip firmy wykorzystujący pamięć HBM3e, która jest szybsza i ma większą pojemność, dzięki czemu lepiej nadaje się do dużych modeli językowych. „Dzięki HBM3e karta NVIDIA H200 zapewnia 141 GB pamięci z szybkością 4,8 terabajta na sekundę, czyli prawie dwukrotnie większą pojemność i 2,4 razy większą przepustowość w porównaniu ze swoim poprzednikiem, NVIDIA A100” – pochwaliła się firma.

​​NVIDIA zapowiedziała nową generację chipów AI, które prawdopodobnie odegrają dużą rolę w rozwoju AI i superkomputerach.

Jeśli chodzi o korzyści dla sztucznej inteligencji, NVIDIA twierdzi, że HGX H200 podwaja prędkość wnioskowania w Llama 2, LLM o 70 miliardach parametrów, w porównaniu z H100. GPU będzie dostępne w konfiguracjach z 4 i 8 układami, które są kompatybilne zarówno z oprogramowaniem, jak i sprzętem w systemach H100. 8-układowa konfiguracja H200 w systemie HGX zapewni do 32 PetaFLOPów wydajności obliczeniowej FP8 i 1,1 TB pojemności pamięci. Nowe GPU będzie działać w każdym typie centrum danych (lokalnym, chmurowym, hybrydowym i brzegowym) i będzie wdrażane między innymi w Amazon Web Services, Google Cloud, Microsoft Azure i Oracle Cloud Infrastructure. Premiera H200 planowana jest na drugi kwartał 2024 roku.

„Superchip” GH200 Grace Hopper

Drugim kluczowym produktem NVIDII jest „superchip” GH200 Grace Hopper, który łączy GPU HGX H200 i CPU NVIDIA Grace oparty na architekturze ARM, wykorzystując autorskie łącze NVLink-C2C. GH200 zostało zaprojektowane z myślą o superkomputerach, aby umożliwić „naukowcom i badaczom radzenie sobie z najtrudniejszymi problemami świata poprzez przyspieszanie złożonych aplikacji AI i HPC obsługujących terabajty danych” – napisała NVIDIA.

GH200 będzie używany w „ponad 40 superkomputerach AI w globalnych centrach badawczych, producentach systemów i dostawcach usług w chmurze” – podali Zieloni, potwierdzając, że po GH200 zgłosiły się już firmy Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT i Supermicro. Ujawniono, że superkomputery Cray EX2500 firmy HPE będą wykorzystywać cztery procesory GH200 i skalować do dziesiątek tysięcy węzłów Grace Hopper Superchip.

Być może największym superkomputerem Grace Hopper będzie JUPITER zlokalizowany w ośrodku w Jülich w Niemczech, który po zainstalowaniu w 2024 r. stanie się „najpotężniejszym systemem sztucznej inteligencji na świecie”. Wykorzystuje architekturę chłodzoną cieczą „z modułem wspomagającym obejmującym blisko 24 000 superchipów NVIDIA GH200 połączonych z platformą sieciową NVIDIA Quantum-2 InfiniBand”.

NVIDIA twierdzi, że JUPITER pomoże w przełomowych osiągnięciach naukowych w wielu obszarach, w tym w przewidywaniu klimatu i pogody, generując symulacje klimatu i pogody w wysokiej rozdzielczości z interaktywną wizualizacją. Będzie również wykorzystywany do odkrywania leków, obliczeń kwantowych i inżynierii przemysłowej. 

Nowe technologie będą kluczowe dla NVIDII, która obecnie większość swoich przychodów czerpie z segmentów sztucznej inteligencji i centrów danych. W zeszłym kwartale firma odnotowała rekordowe przychody w wysokości 10,32 miliarda dolarów w samym tym obszarze (z 13,51 miliarda dolarów całkowitych przychodów), co oznacza wzrost o 171 procent w porównaniu z rokiem ubiegłym. Bez wątpienia firma ma nadzieję, że nowe GPU i superchip pomogą utrzymać ten trend. Nie dalej jak w zeszłym tygodniu NVIDIA pobiła swój własny rekord w benchmarku w zakresie szkolenia sztucznej inteligencji, korzystając ze starszej technologii H100, więc nowa technologia powinna pomóc jej zwiększyć przewagę nad rywalami w sektorze, który już zdominowała.