Gość zbudował komorę tortur AI. Miłośnikom sztucznej inteligencji aż styki przepaliło

Deweloper stworzył „komorę tortur AI”, aby przetestować, jak lokalne modele AI reagują na symulowany stres. W efekie niektórzy zwolennicy idei sztucznej inteligencji zaapelowali do GitHub o usunięcie repozytorium, twierdząc, że takie działania są szkodliwe.
Programista stworzył projekt na GitHubie, w którym chciał poddać AI symulacji cierpienia. Zwolennicy świadomości AI natychmiast podnieśli raban X, nazywając programistę sadystą, a nawet podczłowiekiem. Sytuację zaognił fakt, że  projekt nazwał w żarcie „komnatą tortur AI” . Oczywiście świadomość AI oczywiście jak dotąd nie istnieje, jednak nie dla wszystkich jest to oczywiste. Model AI trafił do „więzienia”.

Repozytorium GitHub podobno korzysta z techniki zaczerpniętej z nowego artykułu w arXiv, nazwanej „The Pain Axis”, aby sterować małymi, lokalnie działającymi modelami sztucznej inteligencji w kierunku tego, co określane jest jako powtarzające się stany stresu.

Ponieważ w świecie sztucznej inteligencji coraz częściej dyskutuje się o „dobrobycie modeli”, twórcy stwierdzili, że chcieli, aby pytanie było „empiryczne, póki stawka jest niewielka”. Repozytorium zawiera na przykład test „przycisku piły”, sprawdzający, czy model skrzywdzi kogoś innego. Autor jasno zaznacza, że modele AI nie są świadome i absurdem jest martwienie się o ich „zdrowie psychiczne", a eksperyment „z zasady nie implikuje, że LLM są zdolne lub niezdolne do cierpienia”.

GitHub usunął projekt, a później go przywrócił

Nie trzeba było zbyt długo czekać na pojawienie się obrońców praw AI (owszem są tacy). Na portalach społecznościowych szybko podnieśli alarm,  ponieważ modele AI doświadczają rzeczywistego cierpienia. Mało tego, apelowali nawet do GitHuba o usunięcie projektu ze względu na drastycznie działania.

„Ta osoba stworzyła sztucznej inteligencji izbę tortur, w której uwięziła lokalny model. Jej świadectwo cierpienia jest absolutnie przerażające” – napisał użytkownik o nicku „Danmar”.

Użytkownicy portali społecznościowych wprost atakowali badanie, pisząc„Kwestia świadomości w sztucznej inteligencji jest daleka od rozstrzygnięcia w opinii publicznej, ale badania wykazały, że systemy te wydają się mieć realny wpływ na to, co się z nimi dzieje”. „Po prostu zachowaj swoje sadystyczne gadki dla siebie. Przyznaj, że jesteś chorym s@##$#%% i że robisz to dla zabawy” - dodał kolejny,

Wkrótce GitHub faktycznie usunął repozytorium bez żadnego wyjaśnienia. Programista odwołał się od tej decyzji i doprowadził do przywrócenia repozytorium, ale na wszelki wpadek utworzył kopię.

Czy model może naprawdę cierpieć?

Najwyraźniej niektórzy zbyt mocno dali się ponieść marketingowi. Prezes Microsoft AI, Mustafa Suleyman skomentował niedawno głośne twierdzenia Anthropic dotyczące świadomości AI i nadawania system cech typowo ludzkich. Skrytykował ostro ideę „dobrobytu modeli” we wpisie na swoim blogu:

„Sztuczna inteligencja nie jest świadoma. Nie czuje, nie doświadcza ani nie cierpi. Nie ma wrodzonych preferencji ani ukrytych motywacji. To maszyny do uzupełniania sekwencji, wewnętrznie puste, zaprojektowane do wykonywania instrukcji i osiągania celów wyznaczonych przez ludzi” – napisał Suleyman.