Mac i eGPU - to jednak możliwe. Takie cuda przez USB 3

Wsparcie dla zewnętrznych kart graficznych (eGPU) na komputerach Mac z Apple Silicon to temat, który przez długi czas frustrował zarówno entuzjastów sprzętu, jak i profesjonalistów zajmujących się AI i uczeniem maszynowym. Apple konsekwentnie unikało wdrożenia obsługi eGPU w swoich chipach M1, M2 i M3, a architektura tych układów oraz brak odpowiednich sterowników skutecznie blokowały użytkownikom dostęp do dodatkowej mocy obliczeniowej spoza wbudowanego układu graficznego. Aż do teraz.

Firma Tiny Corp, znana z rozwoju frameworka Tiny Grad, ogłosiła przełomowe osiągnięcie: udało jej się uruchomić zewnętrzną kartę graficzną AMD (eGPU) przez złącze USB3, i to na urządzeniach z Apple Silicon. Całość działa z wykorzystaniem biblioteki libusb, co oznacza, że rozwiązanie jest kompatybilne nie tylko z macOS, ale też z Windows i Linuxem.

Tiny Corp udało się uruchomić zewnętrzną kartę graficzną AMD (eGPU) przez złącze USB3, i to na urządzeniach z Apple Silicon.

To, co wydawało się niemożliwe, czyli uruchomienie GPU bez tunelowania PCIe, zostało osiągnięte bez korzystania z Thunderbolt czy USB4. Inaczej mówiąc, Tiny Corp zrobiło coś, co wielu uznałoby za „czarną magię inżynierii”.

Jak to działa?

Tradycyjnie eGPU wymaga szybkiego połączenia PCIe, które jest dostępne poprzez Thunderbolt lub USB4. Tymczasem USB3 (maksymalnie 10 Gb/s) nie oferuje natywnego wsparcia dla PCIe. Tiny Corp użyło jednak adaptera ASM2464PD (konkretnie modelu ADT-UT3G), który standardowo działa z Thunderbolt 3/4 lub USB4, ale prawdopodobnie został przez firmę zmodyfikowany firmware’owo, by pracował w trybie USB3.

Kontroler ASM2464PD tłumaczy polecenia PCIe na pakiety USB i odwrotnie, umożliwiając tym samym komunikację pomiędzy systemem a kartą graficzną AMD, bez udziału klasycznych sterowników jądra.

Ograniczenia i wymagania

To rozwiązanie nie jest dla każdego i ma konretne wymagania. Aby zadziałało potrzeba bowiem karty graficznej AMD z rodziny RDNA 3 lub RDNA 4, adaptera USB3 oparty na układzie ASM2464PD oraz systemu z zainstalowanym Tiny Grad z najnowszego branchu „master”

Transfer danych ograniczony jest do 10 Gb/s, co oznacza, że ładowanie modeli AI do eGPU jest wolniejsze niż przy tradycyjnym połączeniu PCIe. Co więcej, ponieważ rozwiązanie działa w przestrzeni użytkownika, a nie w jądrze systemu, wymaga ono pełnego obejścia standardowych sterowników GPU.

Co to oznacza dla użytkowników Apple Silicon?

Choć to rozwiązanie jest eksperymentalne, otwiera drzwi do korzystania z zewnętrznych kart graficznych na komputerach z układami Apple M1, M2 i M3,co dotąd było praktycznie niemożliwe. Dla twórców AI i ML może to oznaczać znaczną poprawę wydajności, zwłaszcza w przypadku zadań wymagających intensywnych obliczeń GPU.

Tiny Corp zapowiada, że więcej szczegółów technicznych udostępni po uporządkowaniu kodu. Tymczasem entuzjaści mogą już testować nową funkcjonalność i przyspieszyć swoje eksperymenty z modelami językowymi, wizją komputerową czy generatywną sztuczną inteligencją.