Sztuczna inteligencja na zwykłych i tanich procesorach? Nvidii się to nie spodoba

W branży zdominowanej przez niesamowicie drogie układy graficzne Nvidia, indyjski startup Ziroh Labs wspólnie z prestiżowym Indian Institute of Technology Madras postanowił pójść w zupełnie innym kierunku.

Opracowali platformę Kompact AI, która może zrewolucjonizować sposób działania systemów sztucznej inteligencji – eliminując potrzebę kosztownych procesorów graficznych i umożliwiając pracę AI na zwykłych komputerach osobistych. To bardzo pożądane podejście ma szansę zdemokratyzować dostęp do zaawansowanej technologii, szczególnie w krajach rozwijających się, gdzie niedobór zaawansowanych układów GPU, takich jak te produkowane przez Nvidię, spowalnia rozwój lokalnych projektów AI.

Sztuczna inteligencja w zasięgu każdego procesora

Ziroh Labs twierdzi, że ich platforma pozwala na efektywne działanie dużych modeli językowych (LLM) na procesorach, które znajdują się w większości współczesnych laptopów i komputerów stacjonarnych. Podczas demonstracji technologii zaprezentowano działanie Kompact AI na standardowym laptopie z procesorem Intel Xeon, który bez problemu obsługiwał modele takie jak Llama 2 od Meta oraz Qwen 2.5 od Alibaby.

„Nasza technologia pozwala modelom AI działać na tym, co już masz – bez potrzeby inwestowania w GPU warte dziesiątki tysięcy dolarów” – tłumaczą inżynierowie Ziroh Labs. Rozwiązanie koncentruje się głównie na etapie inferencji, czyli użytkowania modeli po ich wytrenowaniu – co stanowi kluczowy etap w komercyjnym zastosowaniu AI.

Tańsze, ale równie dobre?

Startup podkreśla, że choć GPU wciąż dominują w świecie AI, ich alternatywa nie oznacza kompromisu jakościowego. Jak zapewnia firma, Kompact AI został już przetestowany przez gigantów branży półprzewodników – Intel oraz AMD – a wyniki są obiecujące. „Wysoka jakość i efektywność działania na CPU potwierdza, że rewolucja jest możliwa bez zmiany sprzętu” – komentuje zespół badawczy.

William Raduchel, były dyrektor ds. strategii w Sun Microsystems i obecny doradca techniczny Ziroh Labs, mówi wprost: „To rozwiązanie może wywrzeć głęboki wpływ na rynek AI w nadchodzących latach”.

Rewolucja z Indii: AI bez elitarności

Indie, jako rosnące centrum innowacji technologicznej, stoją przed poważnym wyzwaniem: jak utrzymać tempo rozwoju AI bez dostępu do globalnie pożądanych układów GPU, których brakuje nawet w krajach o ugruntowanej infrastrukturze? Odpowiedź Ziroh Labs wpisuje się w szerszy trend – po viralowym sukcesie chińskiego DeepSeek, który stworzył konkurencyjny model AI za ułamek kosztów amerykańskich gigantów, coraz więcej startupów szuka sposobów na wydajne AI bez ogromnych zasobów.

„Obecnie dostęp do potężnej AI mają tylko ci, którzy dysponują kosztownymi centrami danych i GPU” – zauważa prof. V. Kamakoti, dyrektor IIT Madras. „Udowodniliśmy, że nie potrzebujesz rewolweru, aby zabić komara”.