AMD niedawno wypuściło na rynek swój najnowszy flagowy procesor APU – Ryzen AI MAX+ 395 „Strix Halo”, który według najnowszych benchmarków opublikowanych na blogu firmy pokazuje ogromną przewagę wydajności nad konkurencyjnymi procesorami Intel Lunar Lake w zadaniach związanych z obsługą dużych modeli językowych (LLM).
Nowy Ryzen AI MAX+ 395 to prawdziwy kombajn, jeśli chodzi o parametry techniczne. APU to zostało wyposażone w 16 rdzeni CPU Zen 5, czyli dwa razy więcej niż 8 rdzeni (4 E + 4 P) w Intel Core Ultra 258V z serii Lunar Lake. Do tego układ Czerwonych oferuje 40 jednostek obliczeniowych GPU RDNA 3.5, co pozwala na płynne granie na wysokich ustawieniach nawet w najnowsze tytuły i przetwarzanie złożonych danych wizualnych i modeli multimodalnych. Całość domyka zaś ponad 50 TOPS mocy obliczeniowej AI dzięki NPU XDNA 2.
APU AMD osiąga nawet 12,2-krotnie szybsze czasy odpowiedzi w porównaniu z konkurencyjnymi procesorami Intela w określonych zadaniach LLM.
To połączenie sprawia, że AMD osiąga nawet 12,2-krotnie szybsze czasy odpowiedzi w porównaniu z konkurencyjnymi procesorami Intela w określonych zadaniach LLM. Co więcej, przewaga AMD nie wynika jedynie z większej liczby rdzeni – różnice w architekturze i wydajności odkrywają tu bardzo duże znaczenie, zwłaszcza przy obsłudze złożonych modeli.
Złożone modele LLM? AMD radzi sobie bez problemu
Im większy model, tym większa przewaga AMD. Procesor Strix Halo bez trudu radzi sobie z obsługą modeli o 14 miliardach parametrów, co jest bliskie granicom możliwości laptopów ze standardową pamięcią 32 GB RAM. Jednak dzięki wsparciu dla AMD Variable Graphics Memory, systemy wyposażone w 128 GB pamięci zunifikowanej mogą przydzielić aż 96 GB jako VRAM, co umożliwia uruchamianie najbardziej zaawansowanych modeli, takich jak Google Gemma 3 27B Vision.
Wyniki testów LM Studio: AMD górą w praktyce
W benchmarkach LM Studio przeprowadzonych na ASUS ROG Flow Z13 z 64 GB pamięci zunifikowanej, zintegrowany układ Radeon 8060S osiągnął 2,2-krotnie wyższą przepustowość tokenów niż Intel Arc 140V, niezależnie od architektury modelu.
Jeśli chodzi o czas do uzyskania pierwszego tokena modele takie jak Llama 3.2 3B Instruct działały 4x szybciej na AMD. W przypadku bardziej złożonych modeli 7-8B, np. DeepSeek R1 Distill, AMD oferowało przewagę nawet nawet rzędu 9,1x nad Intelem.
Ryzen AI Max+ 395 zostawia daleko w tyle nawet GeForce'a RTX 5080
Ryzen AI MAX+ 395 szczególnie wyróżnia się w zadaniach związanych z przetwarzaniem obrazów: i dla przykładu w IBM Granite Vision 3.2 3B układ AMD był 7x szybszy w porównaniu z Intelem, a w Google Gemma 3 12B oferował 6x lepszy wynik niż konkurencyjna platforma Lunar Lake.
Ryzen AI Max+ 395 „Strix Halo” w testach w DeepSeek R1 osiąga nawet 3 razy lepsze wyniki niż dedykowana karta graficzna NVIDIA GeForce RTX 5080. Kluczową różnicą pomiędzy układem AMD a kartą NVIDII jest ilość dostępnej pamięci. Podczas gdy GeForce RTX 5080 posiada 16 GB VRAM, Strix Halo może korzystać z aż 96 GB pamięci graficznej (alokowanej z puli 128 GB). Dzięki ogromnej pojemności pamięci, Ryzen osiąga do 3,05 razy lepszą wydajność w porównaniu do dedykowanej karty graficznej, której ograniczenie VRAM hamuje rozwinięcie skrzydeł.
AMD podkreśla, że ich procesor znajduje zastosowanie nie tylko w benchmarkach, ale i w rzeczywistych zastosowaniach AI. Przykładowo, dzięki wyższej precyzji przetwarzania (6-bitowa kwantyzacja w modelach takich jak DeepSeek R1 Distill Qwen 32B), AMD pozwala na dokładniejszą i szybszą analizę danych z obrazów medycznych. Dodatkowo niższe opóźnienia i większa dokładność pomagają programistom pracować bardziej efektywnie.
Pokaż / Dodaj komentarze do: AMD Ryzen AI MAX+ 395 miażdży CPU Intel Lunar Lake w wydajności AI LLM