ChatGPT potrzebuje jeszcze więcej kart graficznych. Ich liczba może przerazić

ChatGPT to potężne narzędzie, które do rozwoju potrzebuje coraz większej mocy obliczeniowej. Według szacunków, do tej pory narzędzie od OpenAI wykorzystywało około 10-20 tysięcy kart graficznych. Zgodnie z ostatnimi doniesieniami, nowy model, który będzie napędzał ChatGPT wymaga aż 30 tysięcy GPU.

Większość z was zapewne słyszała już o ChatGPT. Nic dziwnego. Od momentu debiutu tego narzędzia, co chwilę powstają nowe artykuły na jego temat. Za potężnymi możliwościami stoi ogromna moc obliczeniowa, której nie udałoby się osiągnąć, gdyby nie tysiące wyspecjalizowanych kart graficznych. Mówi się, że szacunkowo ChatGPT wykorzystuje około 10-20 tysięcy GPU. Za sprawą nowego modelu, który będzie napędzał twór OpenAI, znacząco zwiększy się zapotrzebowanie na karty graficzne. Według danych udostępnionych w serwisie TrendForce, ilość parametrów treningowych wykorzystywanych do rozwoju modelu językowego wzrosła z ok. 120 milionów do prawie 180 miliardów na przestrzeni 2 lat (2018-2020). To samo źródło podaje również, że w 2020 roku, model GPT potrzebował ok. 20 tysięcy GPU do przetwarzania danych treningowych.

W 2020 roku, model GPT potrzebował ok. 20 tysięcy GPU do przetwarzania danych treningowych. Przewiduje się, że aby skomercjalizować ChatGPT, liczba potrzebnych procesorów graficznych wzrośnie aż do 30 tysięcy.

Przewiduje się, że aby skomercjalizować ChatGPT, liczba potrzebnych procesorów graficznych wzrośnie aż do 30 tysięcy. W tych szacunkach mowa o układach A100 produkcji NVIDII. Od tego, które dokładnie modele będą wykorzystywane zależy ich niezbędna ilość.

Biorąc pod uwagę coraz szybszy rozwój oraz popularyzację AI, można śmiało założyć, że przedsiębiorstwo prowadzone przez Jen-Hsun Huanga będzie notować coraz wyższe zyski. NVIDIA będzie musiała także poważnie rozważyć, którą gałąź swoich produktów traktować priorytetowo. Jeśli firma postanowi skupić się na rozwiązaniach dla sztucznej inteligencji, ucierpieć mogą na tym nieco konsumenckie karty graficzne. Zwłaszcza, że popyt na zwykły sprzęt komputerowy spada, a na rozwiązania AI rośnie.