NVIDIA zapowiada pamięci NVHBM. Dostęp będzie mocno ograniczony

NVIDIA zaprezentowała pamięci NVHBM, które mają pomóc w rozwoju AI. Dostęp do nich będzie jednak mocno ograniczony. Są to autorskie pamięci, które osiągają o 30% większą przepustowość w przeliczeniu na pojedynczy stos, mają o 15% niższe zużycie energii oraz o 25% większą powierzchnię układu akceleratora.

Podane wyniki NVIDIA zestawia ze standardowymi wersjami HBM4E. NVHBM trafi do produkcji w 2027 roku, więc na wdrożenie tej technologii pamięci trzeba będzie jeszcze poczekać. Rozwiązanie NVIDII stanowi odpowiedź na problemy związane z rozwojem dużych modeli AI m.in. z ograniczoną przepustowością pamięci.

NVIDIA pokazuje nową technologię pamięci

Pierwszym partnerem Zielonych, który skorzysta z tego rozwiązania będzie Annapurna Labs należąca do Amazona. Sam Amazon nie potwierdził jeszcze, który konkretnie układ wykorzysta nową technologię. NVHBM nie wprowadza rewolucji jeżeli chodzi o pamięci HBM, ale zmienia sposób organizacji kluczowych elementów.

NVIDIA zaprezentowała pamięci NVHBM, które mają pomóc w rozwoju AI. Dostęp do nich będzie jednak mocno ograniczony. Są to autorskie pamięci, które osiągają o 30% większą przepustowość w przeliczeniu na pojedynczy stos, mają o 15% niższe zużycie energii oraz o 25% większą powierzchnię układu akceleratora.

W klasycznej konstrukcji stos DRAM umieszczany jest wraz z układem bazowym, a producent procesora dodaje kontroler pamięci i interfejs fizyczny bezpośrednio w swoim chipie. Standard JEDEC wykorzystuje bardzo szerokie równoległe połączenie pomiędzy tymi elementami.

NVIDIA stosuje inne podejście i tak kontroler pamięci zostaje przeniesiony do układu bazowego stosu HBM, a standardowy interfejs będzie zastąpiony węższym, szeregowym połączeniem zaprojektowanym przez firmę. Takie rozwiązanie powinno zmniejszyć powierzchnię zajmowaną przez interfejs i inne elementy nawet o 67% względem HBM4E.

Rozwiązanie, które pokazano już dwa lata temu

Nie jest to jednak całkowicie nowe rozwiązanie, bowiem w grudniu 2024 roku Marvell zaprezentował podobną koncepcję, która powstała we współpracy z Micronem, Samsungiem i SK hynix. Firma deklarowała wtedy do 25% większą powierzchnię obliczeniową, o 33% większą pojemność pamięci i nawet 70% niższe zużycie energii. To co natomiast wyróżnia NVIDIĘ to skala przedsięwzięcia i model dystrybucji technologii.

Istotne wsparcie w rozwoju AI i ograniczona dostępność

NVHBM może być istotną propozycją dla firm związanych ze sztuczną inteligencją, aczkolwiek na rewolucję się nie zanosi. HBM4E również nie jest na razie produkowany masowo. Samsung zaczął dostarczać pierwsze próbki pod koniec maja 2026 roku, a SK hynix w czerwcu.

NVHBM będzie dostępny poprzez program NVLink Fusion, który pozwala łączyć akceleratory innych firm z platformami NVIDII. Dostęp do tej technologii zostanie więc ograniczony do członków tego programu. NVIDIA potwierdziła wsparcie NVLink Fusion dla układu Trainium 4. Nie wiadomo jednak czy obsłuży pamięci NVHBM.