Sterowniki Intela przełamują barierę pamięci. iGPU moze użyć niemal całego RAM-u

Intel udostępnił nowy pakiet sterowników 32.0.101.8517 dla kart graficznych Arc Pro, wprowadzając bardzo ciekawą funkcję. Ta pozwala bowiem na przydzielanie zintegrowanemu GPU nawet 93% pamięci RAM komputera.

Warto jednak na wstępie wyjaśnić, że opcja ta skierowana jest nie do graczy, ale użytkowników pracujących z modelami językowymi AI, pozwalając im na uruchamianie dużych modeli LLM bez konieczności kupowania kosztownych akceleratorów.

Wyższy limit pamięci oznacza możliwość uruchamiania znacznie większych modeli językowych lokalnie.

Koniec ograniczeń pamięci?

Standardowo zintegrowane układy graficzne korzystają z maksymalnie około połowy pamięci operacyjnej systemu. W praktyce ogranicza to możliwości pracy z większymi modelami AI. Intel już wcześniej zwiększył limit do 87%, a teraz podnosi poprzeczkę jeszcze wyżej. Nowe rozwiązanie działa obecnie na wybranych układach, takich jak Arc Pro B390 oraz Arc Pro B370.

Wyższy limit pamięci oznacza możliwość uruchamiania znacznie większych modeli językowych lokalnie. Komputer wyposażony w 32 GB RAM może poradzić sobie z modelami klasy Qwen 2.5 32B po odpowiedniej kwantyzacji. Z kolei stacje robocze z 64 GB pamięci zyskują szansę na uruchomienie znacznie cięższych konstrukcji, takich jak Llama 3 70B, z zachowaniem zapasu na system i pamięć podręczną.

Sama pojemność to nie wszystko

Choć większa ilość dostępnego RAM-u robi wrażenie, równie istotna pozostaje przepustowość pamięci oraz moc obliczeniowa procesora i GPU. Najnowsze układy Intel Panther Lake mają oferować transfery rzędu 150 GB/s, co może znacząco poprawić komfort pracy z AI. Dla porównania konkurencyjne rozwiązania AMD osiągają nawet 256 GB/s, co daje przewagę przy obsłudze większych modeli.

Liderem pozostaje jednak Apple ze swoją architekturą Unified Memory. W topowych układach dostęp do wspólnej pamięci mają jednocześnie CPU i GPU, bez klasycznego podziału zasobów. To właśnie dlatego sprzęt Apple często świetnie radzi sobie z lokalnym AI.

Intel gra ceną i dostępnością

Mimo przewagi Apple, Intel może wygrać elastycznością i kosztem wejścia. Możliwość uruchamiania dużych modeli AI na tańszych komputerach z Windows może okazać się bardzo atrakcyjna dla firm, studentów i entuzjastów. Nowe sterowniki pokazują zaś, że Intel chce, aby sztuczna inteligencja trafiała nie tylko do drogich stacji roboczych, ale też do zwykłych pecetów.