Windows 11 znalazł nowe zastosowanie dla USB-C. Nadchodzi RDMA

Aktualności Sprzęt Obserwuj nas w Google

Windows 11 znalazł nowe zastosowanie dla USB-C. Nadchodzi RDMA

Windows 11 będzie obsługiwał technologię RDMA przez USB4. Rozwiązanie to pozwala łączyć kilka komputerów i wykorzystać ich pamięć oraz moc do obsługi dużych modeli sztucznej inteligencji. Pierwsze testy przeprowadzone przez Intela i AMD dają obiecujące wyniki.

Microsoft od kilku lat zapewnia obsługę USB4 w Windowsie 11. Wcześniej wprowadził dedykowaną sekcję ustawień oraz bardziej rygorystyczne wymagania dotyczące zgodności urządzeń. Teraz firma przygotowuje funkcję skierowaną przede wszystkim do programistów i osób pracujących z lokalnymi modelami AI.

Kilka komputerów może pracować nad jednym modelem AI

Nowość wykorzystuje RDMA, czyli Remote Direct Memory Access. Technologia zapewnia bezpośredni dostęp do pamięci innego komputera z pominięciem procesora. Podobną zasadę wykorzystują rozwiązania DMA stosowane w DirectStorage oraz mechanizmie Host Memory Buffer.

Windows 11 będzie obsługiwał technologię RDMA przez USB4. Rozwiązanie to połączy kilka komputerów i pozwoli wykorzystać ich pamięć oraz moc do obsługi dużych modeli sztucznej inteligencji.

USB
Źródło: Sigcomm

Microsoft zamierza oprzeć implementację na NetworkDirect, interfejsie obsługującym komunikację RDMA w Windowsie. Dzięki temu komputery wyposażone w USB4 będą mogły wspólnie wykonywać obliczenia i korzystać z dostępnych zasobów pamięci.

Według Microsoftu opóźnienia komunikacji między dwoma komputerami wynoszą około 28 do 50 mikrosekund, czyli czterokrotnie mniej niż przy wykorzystaniu Ethernetu przez to samo połączenie USB4. Niskie opóźnienia utrzymują się przy przepustowości 40 i 80 Gb/s, chociaż szybszy wariant zapewnia dwukrotnie większą przepustowość.

AMD i Intel pokazują możliwości nowej technologii

AMD przetestowało trzy minikomputery z procesorami Ryzen AI Max, układami graficznymi Radeon 8060S i 128 GB pamięci współdzielonej w każdym urządzeniu. Komputery połączono przez USB4 o przepustowości 40 Gb/s. Konfiguracja uruchomiła model Qwen3-235B-A22B, wykorzystujący architekturę Mixture of Experts i 235 miliardów parametrów. Przy czterobitowej kwantyzacji uzyskano około 18,5 tokena na sekundę.

AMD podało również wyniki 21,98 tokena na sekundę podczas generowania odpowiedzi oraz 117,98 tokena na sekundę podczas przetwarzania zapytania. Intel sprawdził natomiast model GPT-OSS-120B na komputerach z procesorami Core Ultra Series 3 i 64 GB pamięci każdy.

Trzy urządzenia osiągnęły około 49 tokenów na sekundę, natomiast cztery zwiększyły wynik do 54 tokenów. Model zawierający 120 miliardów parametrów nie mieści się w pamięci pojedynczego komputera z tej konfiguracji.

RDMA przez USB4 może ułatwić uruchamianie dużych modeli AI bez inwestowania w pojedynczą, bardzo kosztowną stację roboczą. To bardzo dobre rozwiązanie dla programistów i entuzjastów, choć na razie pozostaje na etapie eksperymentalnym.

Pokaż / Dodaj komentarze do:

Windows 11 znalazł nowe zastosowanie dla USB-C. Nadchodzi RDMA
 0