NVIDIA wraca na Maca. Nowy sterownik wspiera nawet RTX 5090

W 2018 roku Apple całkowicie zakończyło wsparcie dla kart NVIDII w systemie macOS, co praktycznie pogrzebało możliwość korzystania z CUDA na tej platformie. Dla wielu deweloperów oznaczało to konieczność zmiany sprzętu lub pracy w środowiskach zastępczych. Teraz jednak sytuacja zaczyna się zmieniać.

Firma Tiny Corp opracowała własny sterownik GPU dla kart NVIDIA działający na macOS. Projekt o nazwie TinyGPU to rozszerzenie jądra systemu typu open source, które, co kluczowe w tym przypadku, zostało zatwierdzone przez Apple. Oznacza to koniec kombinowania z maszynami wirtualnymi czy wyłączaniem zabezpieczeń systemowych. Wystarczy podłączyć zewnętrzną kartę graficzną przez Thunderbolt lub USB4, zaakceptować rozszerzenie i można rozpocząć pracę.

Firma Tiny Corp opracowała własny sterownik GPU dla kart NVIDIA działający na macOS.

Testy z topowym GPU

Możliwości rozwiązania sprawdził Alex Ziskind, wykorzystując kartę NVIDIA RTX 5090 z 32 GB VRAM podłączoną do komputera Mac Mini z układem Apple Silicon. Sam fakt uruchomienia nowoczesnego GPU z architekturą Blackwell w takim środowisku jest sporym osiągnięciem, ale choć technologia działa, wydajność pozostawia sporo do życzenia. W testach z modelem Llama 3.1 8B karta osiągnęła około 7,5 tokena na sekundę. To wynik przeciętny, zwłaszcza w kontekście możliwości sprzętu.

Ciekawiej wypada jednak czas reakcji, bo pierwsze tokeny pojawiały się nawet kilka razy szybciej niż przy natywnym wykorzystaniu Metal, co przekłada się na bardziej responsywne działanie w praktyce.

Problem leży w optymalizacji

Głównym ograniczeniem nie jest przepustowość interfejsu, lecz efektywność sterownika. RTX 5090 dysponuje ogromną przepustowością pamięci, ale obecnie wykorzystywana jest tylko jej niewielka część. Dla porównania, narzędzie llama.cpp działające na Metal potrafi być nawet dziesięciokrotnie szybsze.

Nawet twórcy TinyGPU podkreślają, że projekt dopiero raczkuje. Najważniejsze elementy, takie jak sterownik, kompilator i zarządzanie pamięcią, już działają, ale teraz czas na optymalizacje, które mogą znacząco poprawić wydajność. Jeśli wszystko pójdzie w dobrym kierunku, użytkownicy macOS mogą po latach odzyskać dostęp do pełnoprawnej mocy GPU NVIDIA i to bez kompromisów.