Kod Nvidii nagle działa na AMD. To może zmienić rynek AI

Przez lata wydawało się, że dominacja Nvidii w świecie sztucznej inteligencji jest nie do podważenia. Kluczową rolę odgrywa nie tylko wydajny sprzęt, lecz także CUDA – platforma programistyczna, od której zależy ogromna część oprogramowania wykorzystywanego w centrach danych, superkomputerach i projektach AI. Teraz niewielki startup z Londynu przekonuje, że największą przewagą Nvidii wcale nie są procesory graficzne, lecz właśnie CUDA. Firma chce oderwać ten ekosystem od jednego producenta.

Spectral Compute zaprezentował kompilator SCALE, który według twórców pozwala uruchamiać istniejący kod CUDA na układach AMD bez konieczności jego przepisywania. Jeśli deklaracje firmy znajdą potwierdzenie w praktyce, może to być jedna z najciekawszych zmian na rynku obliczeń wysokiej wydajności od wielu lat.

CUDA bez Nvidii? Startup twierdzi, że to możliwe

CUDA od dawna jest standardem wykorzystywanym przez naukowców, firmy technologiczne i twórców modeli sztucznej inteligencji. Przez lata powstały miliony linii kodu przygotowanego właśnie dla tej platformy. Dla wielu organizacji przejście na inny ekosystem oznaczałoby miesiące pracy i ogromne koszty.

Spectral Compute chce wyeliminować ten problem. Zamiast konwertować kod na inny język lub tłumaczyć gotowe pliki binarne, SCALE działa jako pełnoprawny kompilator. Oprogramowanie ponownie kompiluje kod CUDA bezpośrednio pod architekturę docelowego procesora graficznego.

Według twórców przypomina to sposób działania kompilatorów dla procesorów. Ten sam kod źródłowy może zostać przygotowany dla różnych architektur, a o końcowej wydajności decyduje głównie sprzęt.

„Stosujemy podejście, które jest standardem branżowym dla procesorów, ale stosujemy je również do procesorów graficznych” – powiedział w wywiadzie dla HPCwire Giulio Malitesta, dyrektor ds. rozwoju w Spectral. Dodał, że to „to samo podejście, które umożliwia działanie języka C++ na przykład na procesorach AMD i ARM, gdzie nikt nie spodziewa się różnicy w wydajności, która nie wynikałaby bezpośrednio z różnic w sprzęcie bazowym”. 

Twórcy nie ukrywają, skąd wziął się pomysł

Startup powstał w 2018 roku z inicjatywy czterech inżynierów specjalizujących się w obliczeniach HPC. Założyciele otwarcie przyznają, że impulsem były rosnące ceny akceleratorów Nvidii oraz rozczarowanie możliwościami istniejących narzędzi pozwalających przenosić aplikacje CUDA na inne platformy.

Dlatego zdecydowali się stworzyć własny kompilator oparty na LLVM i Clang. Celem od początku było zachowanie zgodności z istniejącymi projektami bez konieczności ich przebudowy.

Wyniki mają być lepsze niż rozwiązania AMD

Najbardziej odważne są deklaracje dotyczące wydajności. Spectral Compute twierdzi, że SCALE nie tylko uruchamia kod CUDA na kartach AMD, ale potrafi osiągać wyniki wyraźnie lepsze od narzędzi rozwijanych przez samo AMD.

Firma porównuje swoje rozwiązanie z HIPIFY, które tłumaczy kod CUDA na środowisko ROCm. Zdaniem twórców ich kompilator eliminuje ograniczenia charakterystyczne dla tego podejścia. W opublikowanych testach różnice mają sięgać nawet sześciokrotnego wzrostu wydajności w wybranych scenariuszach.

Na razie są to wyniki przedstawione przez sam startup. Dopiero niezależne testy pokażą, jak SCALE sprawdza się w rzeczywistych zastosowaniach.

CUDA pozostaje najważniejszym językiem świata AI

Spectral Compute nie próbuje przekonywać programistów do porzucenia CUDA. Wręcz przeciwnie. Firma uważa, że ten ekosystem pozostanie dominującym standardem jeszcze przez wiele lat.

Według przedstawicieli startupu około 80 proc. kodu wykorzystywanego w obliczeniach wysokiej wydajności powstało właśnie z wykorzystaniem CUDA. Zamiast walczyć z tym faktem, przedsiębiorstwo chce umożliwić uruchamianie tego samego kodu na sprzęcie różnych producentów.

Takie podejście może zainteresować instytucje naukowe, laboratoria oraz firmy rozwijające modele AI. Migracja ogromnych projektów na nowe platformy sprzętowe często pochłania więcej czasu niż sama wymiana akceleratorów.

AMD to dopiero początek

Obecnie SCALE koncentruje się przede wszystkim na kartach graficznych AMD, jednak plany firmy są znacznie ambitniejsze. Trwają prace nad obsługą kolejnych akceleratorów wykorzystywanych w sztucznej inteligencji, choć startup nie zdradza jeszcze nazw producentów.

Jednocześnie rozwijane jest wsparcie dla bibliotek CUDA używanych przez profesjonalne aplikacje. Chodzi między innymi o cuDNN, cuTENSOR czy cuDF. W planach znajduje się także pełniejsza integracja z PyTorch, który pozostaje jednym z najważniejszych frameworków wykorzystywanych przy trenowaniu modeli AI.

Nawet Nvidia może na tym zyskać

Co ciekawe, Spectral Compute nie przedstawia się jako konkurent Nvidii. Startup nadal wspiera układy tego producenta i uważa, że również na nich istnieje przestrzeń do poprawy wydajności dzięki lepszej optymalizacji procesu kompilacji.

Firma dołączyła nawet do programu Nvidia Inception, przeznaczonego dla rozwijających się przedsiębiorstw technologicznych. Przedstawiciele Spectral podkreślają, że ich celem jest współpraca z całym rynkiem, a nie wojna z konkretnym producentem.

Czy monopol CUDA zaczyna pękać?

Od lat największą przewagą Nvidii pozostawał nie sam sprzęt, lecz rozbudowany ekosystem oprogramowania. To właśnie CUDA skutecznie zatrzymywała wielu klientów przed migracją na konkurencyjne rozwiązania.

Jeżeli obietnice Spectral Compute okażą się prawdziwe, producenci akceleratorów AI mogą otrzymać narzędzie, które znacząco obniży koszt zmiany platformy. Dla firm rozwijających sztuczną inteligencję oznaczałoby to większą swobodę wyboru sprzętu i możliwość ograniczenia wydatków bez konieczności przebudowy ogromnych baz kodu.

Na razie startup liczy zaledwie około 30 pracowników, ale jego technologia została już przetestowana między innymi na superkomputerze Frontier w Oak Ridge National Laboratory. Teraz wszystko zależy od tego, czy niezależni użytkownicy potwierdzą deklarowaną wydajność.