Kozy z Age of Empires II lepsze niż część badań o AI. Mylimy interfejs z inteligencją

W świecie badań nad sztuczną inteligencją rośnie liczba prac, które opisują modele językowe w kategoriach bliższych psychologii niż inżynierii. Pojawiają się analizy „empatii” w odpowiedziach, rozważania o „moralności” zapisanej w modelach oraz próby mierzenia „intencji” systemów, które operują wyłącznie na danych wejściowych i wyjściowych.

Adrian de Wynter z Microsoftu postanowił spojrzeć na ten trend z zupełnie innej strony. W pracy o przewrotnym tytule "Jeśli studia magisterskie z prawa (LLM) mają cechy podobne do ludzkich, to tak samo jest w Age of Empires II”, zestawia duże modele językowe z mechaniką gry Age of Empires II, sugerując, że część współczesnych badań nad AI bardziej opisuje ludzką interpretację niż same systemy.

Gdy interpretacja zastępuje pomiar

De Wynter zwraca uwagę na mechanizm, w którym neutralne narzędzie zaczyna być opisywane językiem emocji i intencji. Interfejs czatu przypomina rozmowę z drugim człowiekiem, a to wystarcza, by przypisywać systemom cechy, których nie da się bezpośrednio zmierzyć.

Antropomorficzne cechy są przypisywane przez użytkowników ze względu na medium. Okno czatu wygląda bardzo podobnie do osoby po drugiej stronie, która wysyła do ciebie wiadomość, a konwersacyjny charakter chatbotów sprawia, że ​​chcesz przypisać im te cechy.

W jego ujęciu problem nie polega na tym, że modele językowe są błędnie zaprojektowane. Chodzi o sposób, w jaki ludzie interpretują ich odpowiedzi. Ten sam efekt znany jest z klasycznej teorii filmu i efektu Kuleszowa. Około 100 lat temu rosyjski filmowiec Lew Kuleszow udowodnił, że ludzie interpretują neutralne ujęcie twarzy mężczyzny jako wyrażające zupełnie inne emocje w zależności od obiektów lub postaci przedstawionych w sąsiednich ujęciach filmowych. Kontekst nadaje obrazowi znaczenie, które mogło w nim być lub nie być, i o tym właśnie mówi De Wynter.

Kozy jako element obliczeń

Najbardziej nietypowy element pracy pojawia się wtedy, gdy De Wynter sięga po Age of Empires II jako środowisko testowe dla logiki obliczeniowej. W stworzonej przez niego mapie jednostki i elementy gry, w tym kozy oraz osadnicy, zostały wykorzystane do symulowania bramek logicznych NAND.

Na tej niestandardowej mapie wykorzystał konkretne kafelki mapy i struktury, a także byty, takie jak kozy i wieśniacy, aby odtworzyć bramki logiczne NAND, w których ruchome byty pełnią funkcję średniowiecznych biologicznych tranzystorów. Następnie stworzył coś, co nazywa się „perceptronem”, czyli jednowarstwowym klasyfikatorem binarnym, który naśladuje sposób aktywacji neuronu biologicznego. Jest on powszechnie uznawany za najprostszą formę i najbardziej podstawowy element składowy sieci neuronowej .

W tej konstrukcji ruch jednostek pełni funkcję sygnałów, a struktury mapy zachowują się jak elementy układów cyfrowych. W efekcie powstaje system zdolny do realizacji prostych operacji logicznych, a następnie do budowy perceptronu, czyli podstawowego modelu klasyfikacji binarnej znanego z fundamentów uczenia maszynowego.

Od gry do pytania o AI

Wniosek autora nie dotyczy granic samej gry ani możliwości technicznych symulacji. Punkt ciężkości przesuwa się na sposób interpretowania wyników badań nad AI. Skoro środowisko takie jak Age of Empires II może zostać przekształcone w system logiczny, to przypisywanie emocji modelom językowym staje się bardziej kwestią narracji niż pomiaru.

De Wynter podkreśla, że wiele publikacji zakłada z góry obecność cech takich jak „empatia” czy „intencjonalność”, a następnie próbuje je potwierdzić w eksperymentach. W jego ocenie prowadzi to do wniosków, które bardziej odzwierciedlają założenia badacza niż rzeczywiste właściwości systemu.

AI między inżynierią a antropomorfizacją

W końcowej części pracy pojawia się wyraźne rozróżnienie między tym, co systemy potrafią obliczeniowo, a tym, co przypisuje im użytkownik. Modele językowe pozostają narzędziami przetwarzania danych, nawet jeśli ich forma interakcji sugeruje coś bardziej złożonego.

De Wynter nie odrzuca badań nad AI. Wskazuje raczej na potrzebę precyzyjniejszego języka opisu, w którym systemy analizuje się przez pryzmat ich funkcji, a nie wyobrażeń, jakie wywołują w rozmowie.