Musk uruchomił najpotężniejszy klaster szkoleniowy AI na świecie. To 100 000 układów Nvidia H100

Startup xAI, założony przez Elona Muska, rozpoczął szkolenie swojego nowego modelu sztucznej inteligencji w nowym ośrodku superkomputerowym firmy w Memphis, Tennessee.

„Dobra robota zespołu xAI, zespołu X, Nvidii i wspierających firm, które rozpoczęły szkolenie Memphis Supercluster o ~4:20 rano czasu lokalnego” – napisał Musk na platformie X. „Z 100 tys. chłodzonych cieczą H100 na pojedynczej strukturze RDMA jest to najpotężniejszy klaster szkoleniowy AI na świecie!” Superkomputer składa się z ponad 100 000 procesorów graficznych H100 firmy Nvidia, specjalnie zaprojektowanych do trenowania zaawansowanych modeli AI. Ta potężna infrastruktura ma posłużyć do trenowania nowej wersji chatbota xAI, o nazwie Grok. W zeszłym miesiącu Greater Memphis Chamber potwierdziło, że obiekt obliczeniowy xAI, nazwany „Gigafactory of Compute”, jest w trakcie realizacji, zajmując dawny zakład produkcyjny. W maju xAI ogłosiło, że zabezpieczyło 6 miliardów dolarów finansowania na rozwój AI. Firma poszukuje pracowników do swojego superkomputerowego ośrodka w Memphis na stanowiska takie jak brygadzista ds. światłowodów, inżynier sieci i kierownik projektu.

Musk zachwala ośrodek w Memphis jako „najpotężniejszy klaster szkoleniowy sztucznej inteligencji na świecie”, ale niektórzy mieszkańcy mają obawy dotyczące zużycia energii i wody przez ten ośrodek.

Chociaż Greater Memphis Chamber chwali decyzję xAI o otwarciu ośrodka w tym regionie, niektórzy mieszkańcy wyrazili obawy dotyczące zużycia energii i wody przez obiekt. Grupa Memphis Community Against Pollution oraz dwie inne organizacje ekologiczne ostrzegły, że obiekt może znacząco obciążyć lokalne zasoby energetyczne i wodne. „Oczekuje się również, że xAI będzie potrzebować co najmniej miliona galonów (1 galon to 3,79 litra) wody dziennie do swoich wież chłodniczych” – napisały grupy w otwartym liście w zeszłym miesiącu. „Zachęcamy xAI do wsparcia inwestycji w system ponownego wykorzystania ścieków w mieście Memphis w celu zmniejszenia obciążenia naszych zasobów wodnych”.

Dyrektor generalny Memphis Light, Gas, and Water oszacował, że zakład xAI w Memphis może zużywać do 150 megawatów energii elektrycznej na godzinę, co odpowiada ilości potrzebnej do zasilenia 100 000 domów. „Ludzie się boją. Boją się tego, co może się stać z wodą i boją się o dostawy energii” – powiedziała w zeszłym tygodniu członkini rady miasta Memphis, Pearl Walker.

Chociaż nowy ośrodek xAI jest imponujący, nie jest jedynym takim obiektem na świecie. Giganci technologiczni, tacy jak Microsoft, Google i Meta, również posiadają tam centra danych do trenowania i obsługi swoich modeli AI. Dyrektor generalny Meta, Mark Zuckerberg, ogłosił plany zakupu 350 000 Nvidia H100 w tym roku.

Musk zapowiedział, że xAI planuje wypuścić Grok 2 w przyszłym miesiącu, jednak nie jest jeszcze jasne, czy nowy klaster superkomputerowy zostanie do tego wykorzystany. Grok 3 ma być trenowany na 100 000 H100 w Memphis i planowany jest na koniec tego roku.