RAM, jaki znamy, może odejść do historii. Były szef Intela ma plan

Rozwój sztucznej inteligencji napędza zapotrzebowanie na coraz szybszą i pojemniejszą pamięć. Nowa technologia Z2RAM ma połączyć zalety dwóch popularnych rozwiązań: szybkość SRAM i gęstość DRAM. Nad projektem pracuje Nagare Labs, wspierane przez byłego szefa Intela Pata Gelsingera. Choć deklaracje brzmią bardzo obiecująco, to do komercyjnego wykorzystania tej pamięci droga jest jeszcze daleka.

Technologia ta, opracowana przez profesorów Sumana Dattę i Shimenga Yu z Georgia Institute of Technology, ma na celu zbliżenie szybkości pamięci SRAM do gęstości pamięci DRAM i wykorzystanie warstwowego podejścia do produkcji podobnego do pamięci NAND Flash.

Gelsinger zauważa, że ​​technologie SRAM, DRAM i Flash stanowią fundamentalne rozwiązania na obecnym rynku pamięci od prawie 30 lat. Według Gelsingera, Z2RAM może zaoferować nowe podejście do problemów związanych z pojemnością, przepustowością i zużyciem energii, szczególnie w akceleratorach sztucznej inteligencji. Technologia Z2RAM może rozwiązać problem wąskiego gardła pamięci w sztucznej inteligencji.

Celem Z2RAM jest zapewnienie gęstości pięć razy większej niż SRAM.

Jedną z wyróżniających cech pamięci Z2RAM jest jej deklarowana, znacznie wyższa gęstość bitowa w porównaniu z pamięcią SRAM. Nagare Labs dąży do osiągnięcia ponad pięciokrotnie większej pojemności pamięci niż SRAM w tej samej przestrzeni fizycznej w pierwotnej wersji technologii. Przykładowo, twierdzi się, że w przypadku Z2RAM około 320 MB pamięci można umieścić w przestrzeni zajmowanej przez 64-megabajtowy układ SRAM. Co więcej, docelowa przepustowość będzie zbliżona do przepustowości pamięci SRAM.

To podejście jest szczególnie ważne w przypadku akceleratorów AI wykorzystywanych do obsługi dużych modeli językowych. Obecnie systemy wykorzystujące szybką pamięć SRAM mogą wymagać dużej liczby procesorów ze względu na ograniczoną pojemność pamięci. Jeśli Z2RAM spełni swoje obietnice, może znacząco zmniejszyć liczbę akceleratorów potrzebnych do uruchomienia tego samego obciążenia.

Rozwiązania Groq 3 LPU firmy Nvidia podobno oferują około 500 MB pamięci SRAM na chip. Zdolność Z2RAM do zapewnienia pięciokrotnie lub więcej wyższej gęstości może zwiększyć pojemność pamięci w podobnych architekturach opartych na SRAM, ułatwiając skalowalność systemu. Jednak stopień, w jakim ta korzyść zostanie osiągnięta w rzeczywistych systemach, nie został jeszcze potwierdzony.

Architektura pamięci wykorzystująca tranzystory zamiast kondensatorów.

Kluczową cechą odróżniającą pamięć Z2RAM od tradycyjnej pamięci DRAM jest sposób przechowywania danych. Podczas gdy komórki DRAM wykorzystują tranzystor, kondensator, Z2RAM wykorzystuje strukturę składającą się z dwóch tranzystorów. Pojemność bramki drugiego tranzystora służy do magazynowania ładunku elektrycznego.

Jedną z kluczowych zalet tej konstrukcji jest to, że operacja odczytu odbywa się bez uszkodzenia danych w pamięci. W tradycyjnej pamięci DRAM kondensator rozładowuje się podczas odczytu, co wymaga ponownego zapisu danych po operacji odczytu. Rozwiązanie Z2RAM eliminuje tę potrzebę, zmniejszając opóźnienie dostępu.

Kolejną ważną cechą tej technologii jest możliwość pionowego układania komórek jedna na drugiej. Wykorzystując półprzewodniki tlenkowe i technologie trójwymiarowego sprzężenia hybrydowego, Nagare Labs planuje zintegrować pamięć bezpośrednio z układami logicznymi procesora lub akceleratora.

Pod tym względem Z2RAM stosuje podejście integracyjne podobne do technologii 3D V-Cache firmy AMD, w którym dodatkowa pamięć podręczna SRAM jest umieszczana na procesorach. Celem Nagare nie jest jednak jedynie zwiększenie pojemności pamięci podręcznej, ale stworzenie nowej klasy pamięci, gęstszej i skalowalnej do różnych warstw.

Firma przewiduje, że jej podejście do produkcji, bliższe warstwowej strukturze pamięci flash NAND, umożliwi łatwiejszą i tańszą produkcję w porównaniu z technologiami takimi jak HBM i LPDDR.

Nagare Labs napotyka poważne przeszkody.

Nagare Labs pozyskało 5 milionów dolarów w pierwszej rundzie finansowania. Firma poszukuje partnera produkcyjnego, który zajmie się badaniami i rozwojem, aby rozszerzyć działalność rozwojową poza laboratorium uniwersyteckie.

Pomimo oczekiwań wobec pamięci Z2RAM, przed jej komercjalizacją stoją poważne przeszkody. Współzałożyciel Suman Datta zauważa, że ​​technologia ta wciąż znajduje się w fazie prototypu laboratoryjnego. Celem firmy jest dostarczenie egzemplarzy działających modułów pamięci Z2RAM w ciągu najbliższych czterech lat i rozpoczęcie dostaw komercyjnych w ciągu dziesięciu lat.

Brak standardów integracyjnych to kolejny istotny problem. Aby wykorzystać zalety pamięci Z2RAM, takie jak wysoka pojemność i szybkość, niezbędne są technologie hybrydowego łączenia trójwymiarowego. Brakuje jednak powszechnie akceptowanego w branży standardu integracji tego nowego typu pamięci z akceleratorami.

Ponieważ rozwiązanie AMD 3D V-Cache jest technologią specyficzną dla własnej architektury, Nagare Labs może potrzebować opracować własny interfejs, aby umożliwić jego powszechną implementację. Oznacza to dodatkowe prace inżynieryjne i współpracę z branżą.

Niezawodność półprzewodników tlenkowych również należy do zagadnień wymagających zbadania. Chociaż materiały te mogą oferować korzyści pod względem odporności na temperaturę i promieniowanie, przerwy energetyczne i niewielkie zmiany na poziomie elektronowym mogą wpływać na napięcia progowe tranzystorów, prowadząc do błędów w komórkach pamięci. Dlatego weryfikacja długoterminowej stabilności i niezawodności komórek będzie jednym z podstawowych warunków ich wprowadzenia do użytku komercyjnego.