35-letnie Nintendo uruchomiło własnego ChatGPT. Wystarczyło 21 MHz i odrobina szaleństwa

Aktualności Sprzęt Obserwuj nas w Google

35-letnie Nintendo uruchomiło własnego ChatGPT. Wystarczyło 21 MHz i odrobina szaleństwa

Sztuczna inteligencja kojarzy się dziś z potężnymi kartami graficznymi, gigantycznymi centrami danych i procesorami kosztującymi fortunę. Tymczasem Benj Edwards postanowił sprawdzić, czy podobną technologię da się uruchomić na konsoli Nintendo sprzed 35 lat.

Super Nintendo Entertainment System otrzymało własnego chatbota, który potrafi odpowiadać na pytania bez korzystania z internetowych serwerów AI. Całość działa dzięki niewielkiemu modelowi językowemu oraz układowi Super FX 2 taktowanemu zegarem 21 MHz.

ChatGPT na Super Nintendo? Tak, ale nie ten, którego znasz

Za projektem stoi Benj Edwards, dziennikarz technologiczny i twórca serwisu Vintage Computing. Postanowił połączyć współczesne modele językowe z platformą zaprojektowaną w czasach, gdy internet dopiero zaczynał trafiać do domów. Największą przeszkodą okazały się oczywiście możliwości sprzętowe konsoli. Współczesne modele AI korzystają z miliardów parametrów i ogromnych zasobów pamięci. SNES nie został zaprojektowany nawet z myślą o uruchamianiu systemu operacyjnego podobnego do Windowsa.

Edwards wykorzystał więc znacznie mniejszy model językowy, zawierający około 2,2 mln parametrów. Jego dane treningowe powstały przy pomocy otwartego modelu OpenAI gpt-oss-120b.

Program przypomina ChatGPT sposobem prowadzenia rozmowy, ale nie jest oficjalnym produktem OpenAI ani wersją internetowego chatbota przeniesioną na konsolę. Twórca otwarcie przyznaje, że model często popełnia błędy, potrafi udzielać niespójnych odpowiedzi i dysponuje bardzo ograniczoną wiedzą. Jego słownik obejmuje około 8 tys. słów.

Największym osiągnięciem nie jest więc jakość rozmowy, lecz fakt, że generowanie odpowiedzi rzeczywiście odbywa się na sprzęcie Nintendo.

Procesor z Yoshi's Island dostał zupełnie nowe zadanie

Kluczową rolę w eksperymencie odgrywa Super FX 2. To dodatkowy procesor wykorzystywany w niektórych kartridżach SNES-a, który pomagał konsoli wykonywać bardziej skomplikowane operacje graficzne. Układ trafił między innymi do Super Mario World 2: Yoshi's Island z 1995 roku. Odpowiadał za efekty takie jak skalowanie i obracanie elementów obrazu. Wcześniejsza generacja Super FX umożliwiła natomiast wyświetlanie trójwymiarowej grafiki w Star Fox.

Teraz ten sam pomysł na sprzętowe przyspieszanie obliczeń znalazł zastosowanie w sztucznej inteligencji. Super FX 2 pracuje z częstotliwością około 21 MHz. 

Obliczenia wykorzystują 8-bitową reprezentację wag modelu, odczytywanych bezpośrednio z pamięci ROM kartridża. Dzięki temu dodatkowy procesor może wykonywać operacje matematyczne potrzebne do generowania tekstu.

Nie należy oczywiście porównywać jego możliwości z nowoczesnymi akceleratorami AI. Super FX 2 został zaprojektowany przede wszystkim do wspomagania grafiki, a jego wykorzystanie do obsługi modelu językowego jest przykładem wyjątkowo pomysłowego programowania.

Dwie litery? Nie, dwa tokeny na sekundę

Jak szybko działa sztuczna inteligencja na 35-letnim Nintendo? Według autora projekt osiąga wydajność około dwóch tokenów na sekundę. Wygenerowanie pojedynczego tokenu zajmuje mniej więcej od 0,4 do 0,5 sekundy. Token nie musi odpowiadać całemu słowu. W praktyce chatbot buduje odpowiedzi wyraźnie wolniej niż współczesne usługi AI, a użytkownik musi uzbroić się w cierpliwość.

Nie jest to jednak wyłącznie pokaz technologiczny, w którym na ekranie wyświetlane są wcześniej przygotowane kwestie. Model samodzielnie generuje kolejne fragmenty wypowiedzi na podstawie otrzymanego pytania.

Edwards przygotował też alternatywną wersję programu korzystającą z dodatkowej bazy wiedzy. Zawiera ona początkowe fragmenty około 150 tys. artykułów Simple English Wikipedia. Dane przechowywane są osobno, a chatbot może sięgać do nich podczas tworzenia odpowiedzi.

Ta odmiana lepiej radzi sobie z pytaniami wymagającymi konkretnych informacji, choć nadal daleko jej do niezawodności współczesnych asystentów.

Możesz sprawdzić ChatGPT na SNES-ie bez kupowania konsoli

Autor udostępnił projekt w postaci pliku ROM. Osoby posiadające oryginalne Super Nintendo i kompatybilne rozwiązanie typu flashcart mogą uruchomić program na prawdziwym sprzęcie. Pozostali nie muszą jednak polować na 35-letnią konsolę. Na stronie projektu działa emulator SNES-a uruchamiany bezpośrednio w przeglądarce. Wystarczy otworzyć aplikację, rozpocząć rozmowę i sprawdzić, jak radzi sobie jeden z najmniejszych chatbotów inspirowanych ChatGPT.

Pokaż / Dodaj komentarze do:

35-letnie Nintendo uruchomiło własnego ChatGPT. Wystarczyło 21 MHz i odrobina szaleństwa
 0