Uruchomili ChatGPT w arkuszu Excela. Plik waży 1,2 GB i każdy może go wypróbować

Szybki postęp w dziedzinie generatywnej sztucznej inteligencji przekształca krajobraz technologiczny. Po raz pierwszy treści pojawiające się w Internecie, takie jak słowa, obrazy czy filmy, mogą być generowane przez zaawansowane modele sztucznej inteligencji, zamiast przez ludzi. Wewnętrzne mechanizmy dużych modeli językowych (LLM) mogą być trudne do zrozumienia dla osób bez doświadczenia w programowaniu, ale dzięki specjalnemu arkuszowi kalkulacyjnemu można wniknąć w ich istotę.

Według dewelopera Ishana Ananda, jego projekt jest niskokodowym sposobem na zrozumienie podstaw transformatorów w ogóle, a GPT w szczególności. Nazywa on projekt "Spreadsheets-are-all-you-need", co odnosi się do tytułu artykułu z 2017 roku "Attention is All You Need". Badania przeprowadzone przez inżynierów Google stanowiły podstawę dla wszystkich zaawansowanych rozwiązań LLM, które widzimy dzisiaj. W tym przypadku wystarczy arkusz kalkulacyjny, ponieważ prawie każdy krok w LLM składa się z operacji matematycznych.

"Ważący" 1,2 GB arkusz kalkulacyjny zawiera pełną wersję demonstracyjną modelu językowego.

Dzięki temu każdy może pobierać arkusze kalkulacyjne i eksperymentować z modelem GPT-2. Wystarczy komputer z programem Excel i chęć nauki. Anand udostępnił również kilka filmów instruktażowych, które pomagają zrozumieć, jak korzystać z arkusza kalkulacyjnego. Projekt obsługuje mniejszą wersję GPT-2, która zawiera tylko 124 miliony parametrów. Ostatni model GPT-4 Turbo OpenAI, o którym mówi się, że przekracza 1 bilion parametrów, jeszcze nie został oficjalnie potwierdzony przez OpenAI.

Ze względu na ograniczenia LLM w arkuszu kalkulacyjnym, możliwości wprowadzania danych są ograniczone. Nie zapewnia on funkcji szkolenia i wykonuje jedynie obliczenia wnioskowania. Maksymalny rozmiar kontekstu wejściowego wynosi tylko 10 tokenów i 10 znaków na słowo. Nawet przy tych ograniczeniach, arkusz kalkulacyjny zajmuje 1,2 GB. Czas przetwarzania będzie zróżnicowany w zależności od specyfikacji sprzętu, ale może wynosić nawet kilka minut.

Arkusz rozpoczyna się od przykładowego wejścia "Mike jest szybki. Mike porusza się...", z następnym tokenem przewidywanym przez GPT-2. Pomyślnie przewiduje "szybko" jako następne słowo. Można przeglądać karty arkusza kalkulacyjnego, aby zobaczyć, jak dane są mapowane na tokeny i przechodzą przez kolejne kroki. Choć może to nie być równie użyteczne jak ChatGPT czy chatboty Google Gemini, ten projekt może pomóc w lepszym zrozumieniu działania LLM. Anand zauważa, że jest to najlepsze narzędzie edukacyjne, ale nawet programiści mogą skorzystać z przekształcenia LLM w format Excel.

Początkowo Anand rozpoczął projekt w Arkuszach Google, ale arkusz kalkulacyjny online nie był w stanie obsłużyć pełnego modelu GPT-2. Wersja online programu Excel również nie posiadała niezbędnych funkcji do uruchomienia modelu. Użytkownicy mogą pobrać plik Excel o rozmiarze 1,2 GB z repozytorium GitHub projektu.