OpenAI pokazało własny chip AI. Ma tylko 700 W, a w testach pokonał potężną Nvidię

OpenAI coraz śmielej wychodzi poza samo tworzenie modeli sztucznej inteligencji. Firma pokazała pierwsze wyniki testów własnego układu Jalapeño, opracowanego wspólnie z Broadcomem. Specjalizujący się we wnioskowaniu ASIC ma pobierać 700 W, a według testów przedstawionych przez OpenAI zapewniać nawet 1,9 raza większą przepustowość na kilowat niż systemy Nvidia GB200 i GB300.

To interesujący moment dla rynku akceleratorów AI. OpenAI od lat korzysta z ogromnych ilości sprzętu Nvidii, a teraz zaczyna projektować własne procesory przeznaczone konkretnie do obsługi modeli językowych.

Jalapeño kontra Nvidia GB300

OpenAI zaprezentowało wyniki podczas konferencji Hot Chips. Jalapeño porównano z systemami Nvidia GB200 oraz GB300 w publicznym zestawie testów InferenceX przygotowanym przez SemiAnalysis.

W zależności od badanego obciążenia układ OpenAI miał osiągać od 1,5 do 1,9 raza większą przepustowość na kilowat. Jednocześnie deklarowane opóźnienie całkowite było od 1,7 do 3,6 raza niższe.

Testy wykorzystały trzy modele: GPT-OSS 120B, DeepSeek R1 670B oraz Kimi K2.5 firmy Moonshot AI, dysponujący bilionem parametrów.

Największa różnica pojawiła się przy ustawieniach nastawionych na niskie opóźnienia. OpenAI deklaruje wtedy nawet od 8,6 do 104,3 raza większą przepustowość na kilowat względem najszybszych ustawień GB300 pod względem czasu między kolejnymi tokenami.

700 W zamiast 1400 W

Jalapeño jest układem zaprojektowanym od podstaw z myślą o wnioskowaniu AI. Jego deklarowane TDP wynosi 700 W, podczas gdy GB300 wykorzystuje akcelerator o mocy 1400 W. OpenAI podaje jednak także rzeczywisty pobór energii podczas testów. Ciągłe zużycie energii przez Jalapeño miało utrzymywać się na poziomie 550 W lub niższym.

Po uwzględnieniu całkowitej mocy użytkowej różnica jest mniejsza. OpenAI podaje 1,18 kW dla Jalapeño i 2,55 kW dla GB300. W takim ujęciu przewaga energetyczna autorskiego procesora nadal pozostaje zauważalna.

Istotne jest również to, że Jalapeño nie zostało zestawione z najnowszą platformą Vera Rubin firmy Nvidia. Nie należy więc traktować wyników jako dowodu na przewagę nad całą aktualną ofertą Nvidii.

Sześć stosów HBM4 robi różnicę

Jalapeño wykorzystuje sześć stosów pamięci HBM4. Łącznie daje to 216 GB pamięci o przepustowości sięgającej 15,4 TB/s. Dla porównania GB300 dysponuje 288 GB HBM3E i ma deklarowane TDP na poziomie 1400 W. Według prezentacji OpenAI jednym z najważniejszych celów projektu Jalapeño było zapewnienie odpowiedniej przepustowości pamięci, zamiast prostego zwiększania liczby jednostek obliczeniowych.

To szczególnie istotne w przypadku współczesnych modeli AI. Pamięć HBM stała się jednym z najważniejszych ograniczeń przy budowie akceleratorów, a jej produkcja wymaga ogromnych mocy wytwórczych.

OpenAI chce produkować własne układy na dużą skalę

Jalapeño nie jest jednorazowym eksperymentem. OpenAI planuje rozpocząć wdrażanie procesora we własnych centrach danych jeszcze w tym roku.

Projekt powstał we współpracy z Broadcomem. Pierwsza generacja została przygotowana w bardzo krótkim czasie, a prace nad kolejnym układem mają już trwać. Według przywoływanych informacji druga generacja zbliża się do etapu testów.

Firma ma również szerszy plan wykorzystania własnych akceleratorów. OpenAI podpisało z Broadcomem umowę dotyczącą wdrożenia niestandardowych układów o łącznej mocy sięgającej 10 GW.

To nie jest jeszcze koniec dominacji Nvidii

Wyniki Jalapeño wyglądają imponująco, ale wymagają ostrożnej interpretacji. Układ OpenAI został zaprojektowany przede wszystkim do wnioskowania i nie służy do trenowania modeli. Nvidia ma tutaj znacznie szerszą ofertę sprzętową.

Dodatkowo część porównań dotyczy pojedynczej predykcji tokena, podczas gdy systemy Nvidii w zastosowaniach produkcyjnych mogą korzystać z predykcji wielotokenowej. Samo OpenAI przyznaje, że po zastosowaniu takiego scenariusza przewaga w efektywności energetycznej może spaść do około 1,5 raza.

Nie zmienia to faktu, że OpenAI pokazało coś istotnego: ogromne modele AI można obsługiwać na specjalizowanym sprzęcie zaprojektowanym pod konkretne potrzeby. Jeśli kolejne generacje Jalapeño utrzymają podobny poziom efektywności, firma może stopniowo ograniczać zależność od gotowych akceleratorów.

Co ciekawe, OpenAI nadal potrzebuje Nvidii. Niedawno Nvidia zgodziła się zapewnić finansowanie sięgające 105 mld dolarów na budowę kampusu centrum danych w Ohio dzierżawionego przez OpenAI.