Ten maluch przyspiesza działanie GPU. Karta dostaje bezpośredni dostęp do SSD

Rocket 7638D od HighPoint to karta przełączająca PCIe 5.0 z układem Broadcom PEX 89048, która umożliwia działanie technologii NVIDIA GPUDirect. Dzięki wsparciu dla P2P DMA pozwala na bezpośrednią komunikację GPU z nośnikami NVMe i innymi urządzeniami, co odciąża CPU i RAM oraz znacząco przyspiesza trenowanie i wnioskowanie AI.

Rocket 7638D to najnowszy produkt od HighPoint. Pod tą ciekawie brzmiącą nazwą kryje się karta przełączająca z obsługą PCIe 5.0. Dzięki niej możliwe jest działanie GPUDirect firmy NVIDIA, czyli bezpośredniego połączenia procesorów graficznych AI z urządzeniami pamięci masowej na protokole NVMe.

Technologia GPUDirect jest obsługiwana przez najnowsze procesory graficznej NVIDII, począwszy od układów A100.

Korzyści jakie płyną z wykorzystania bezpośredniego połączenia to przyspieszenie trenowania sztucznej inteligencji i wnioskowania, a także zdjęcie pewnej porcji obciążenia z CPU i pamięci operacyjnej. Należy także podkreślić, że technologia GPUDirect pozwala na komunikację nie tylko z dyskami, ale także innymi urządzeniami, jak interfejsy sieciowe.

Procesor ARM i 48 linii PCIe 5.0

Karta przełączająca od HighPoint została wyposażona w układ Broadcom PEX 89048. Dzięki znajdującemu się na pokładzie procesorowi ARM zapewniono kompatybilność zarówno z systemami x86, jak i właśnie ARM. W specyfikacji karty odnajdziemy obsługę 48 linii PCIe 5.0. Zostały one pogrupowane na trzy kategorie, a do każdej oddelegowano 16 linii. Pierwsza część odpowiada za połączenie z hostem, kolejne 16 linii służy do łączności z nośnikami NVMe, a trzecia grupa pozwala łączyć się z zewnętrznym procesorem graficznym.

 

Do 2 PB NVMe

Co ważne, łączność z dyskami NVMe odbywa się za pośrednictwem złącza MCIO 8i. Porty są w stanie obsłużyć do 16 nośników. Maksymalnie wspierana jest zatem łączna pojemność 2 PB. Idąc dalej, dzięki wykorzystaniu karty przełączającej, można osiągnąć przepustowość sięgającą 64 GB/s. Oczywiście przy wykorzystaniu odpowiednich sterowników, systemu pliku, a także samego systemu operacyjnego.

GPUDirect

Technologia GPUDirect jest obsługiwana przez najnowsze procesory graficznej NVIDII, począwszy od układów A100. Oczywiście nie wystarczy mieć tylko kompatybilnego GPU. Oprócz wspomnianego software’u konieczne jest także posiadanie odpowiedniej karty przełączającej PCIe obsługującej P2P DMA (Peer-to-Peer Direct Memory Access).