DGX-2H - NVIDIA jeszcze bardziej przyspiesza "największe na świecie GPU"

Jensen Huang, CEO NIVIDII z dumą prezentował serwer DGX-2 jako "największe na świecie GPU" podczas konferencji dotyczącej AI i uczenia maszynowego GTC 2018. Huang oparł swoje fantastyczne stwierdzenie o fakt, że ten zbudowany z 16 potężnych GPU Tesla V100 i robiącej wrażenie pamięci HBM2 w ilości 512 GB, zgłasza się w systemie jako jedno, wielkie GPU z jednolitą przestrzenią pamięci. Ta potężna maszyna jest wykorzystywana w centrach danych do pracy przy projektach wymagających mocy obliczeniowej przy uczeniu maszynowym. Teraz jednak NVIDIA poluzowała ograniczenia zestawu, zwiększając maksymalny możliwi pobór energii, co poskutkowało zwiększeniem mocy obliczeniowej.

Uprzedzając pytania, na tym zestawie nie da się uruchomić CS:GO i wycisnąć 10 tysięcy klatek na sekundę ;) 

NVIDIA wypuściła odświeżony model DGX-2H właściwie bez fanfar i fajerwerków. Nowa wersja posiada taką samą, niemal niedorzeczną ilość GPU, na którą składają się 81920 rdzenie CUDA i 122240 rdzenie Tensor. Pomimo ogromnej mocy obliczeniowej NVIDII udało się wycisnąć z zestawu jeszcze więcej dzięki zwiększeniu granic termicznych układów V100. NVIDIA początkowo zwiększyła możliwości Tesli V100 z 300 do 350 W w poprzednim modelu DGX-2. Teraz firma podniosła limit mocy jeszcze bardziej do 450 W na GPU oraz zastosowała szybsze procesory Intel Platinum 8168, w miejsce Platinum 8174 występujących w DGX-2 Większy pobór mocy dla każdego GPU, to jednocześnie większe zapotrzebowanie na prąd, które dla całego urządzenia wzrosło z 10 kW do 12 kW. Większa moc, to również większe wydzielanie ciepła. Nie wiadomo jednak czy NVIDIA zastosowała jakiekolwiek znaczące usprawnienia w systemie chłodzenia, by sprostać nowym parametrom pracy.

Aby zwiększyć wydajność, firma zdecydowała się na zwiększenie częstotliwości i napięć aby wycisnąć z GPU wszystko co możliwe. Jest to jedna z niewielu już możliwości jaki pozostały NVIDII w celu przyspieszenia tego niemłodej już konstrukcji. Dzięki tym zabiegom wydajność wzrosła z 2 petaflopów do 2.1 petaflopów i choć wydawać się to może niewielką wartością w porównaniu do wzrostu zapotrzebowania na energię, to trzeba najpierw uświadomić sobie, że jeden petaflop to 10¹⁵ operacji zmiennoprzecinkowych na sekundę.  Oryginalny DGX-2 kosztuje 400000 dolarów USD, cena nowszej wersji nie jest póki co znana.