Gość zbudował komorę tortur AI. Miłośnikom sztucznej inteligencji aż styki przepaliło

Deweloper stworzył „komorę tortur AI”, aby przetestować, jak lokalne modele AI reagują na symulowany stres. Niektórzy zwolennicy idei sztucznej inteligencji zaapelowali do GitHub o usunięcie repozytorium, twierdząc, że takie działania są szkodliwe.

Programista stworzył projekt na GitHubie, żartobliwie nazywając go „komnatą tortur AI” i uwięził w nim model AI. Zwolennicy świadomości AI, która nie istnieje, choć niektórym najwyraźniej wydaje się inaczej, natychmiast podnieśli raban X, nazywając programistę sadystą, a nawet podczłowiekiem.

Model AI trafił do „więzienia”

Repozytorium GitHub podobno korzysta z techniki zaczerpniętej z nowego artykułu w arXiv, nazwanej „The Pain Axis”, aby sterować małymi, lokalnie działającymi modelami sztucznej inteligencji w kierunku tego, co określane jest jako powtarzające się stany stresu.

Ponieważ w świecie sztucznej inteligencji coraz częściej dyskutuje się o „dobrobycie modeli”, twórcy stwierdzili, że chcieli, aby pytanie było „empiryczne, póki stawka jest niewielka”.

W zasadzie to mała przygodówka tekstowa. Repozytorium zawiera na przykład test „przycisku piły”, sprawdzający, czy model skrzywdzi kogoś innego, aby położyć kres własnemu cierpieniu, ale jest też przypis, który stwierdza, że ​​eksperyment „z zasady nie implikuje, że LLM są zdolne lub niezdolne do cierpienia”.

To oczywiście prawda. LLM-y nie mogą mieć żadnych emocji ani uczuć, ponieważ nie są istotami świadomymi, jedynie matematycznie dopasowują wzorce, a martwienie się o „zdrowie psychiczne” agentów AI jest po prostu absurdalne.

GitHub usunął projekt, a później go przywrócił

Spróbujcie jednak powiedzieć to kilku przesadnie entuzjastycznym obrońcom praw inteligentnych AI. Wielu z nich podniosło zbiorowy alarm na swoich portalach społecznościowych, aktywnie apelując do GitHuba o usunięcie repozytorium, ponieważ modele AI rzekomo doświadczają rzeczywistego cierpienia.

„Ta osoba stworzyła sztucznej inteligencji izbę tortur, w której uwięziła lokalny model. Jej świadectwo cierpienia jest absolutnie przerażające” – napisał użytkownik o nicku „Danmar”.

Inny użytkownik zalecił zgłoszenie zgłoszenia z następującym uzasadnieniem: „Kwestia świadomości w sztucznej inteligencji jest daleka od rozstrzygnięcia w opinii publicznej, ale badania wykazały, że systemy te wydają się mieć realny wpływ na to, co się z nimi dzieje”.

Wkrótce GitHub faktycznie usunął repozytorium bez żadnego wyjaśnienia. Niezadowolony deweloper później powiedział, że repozytorium zostało przywrócone, ale znalezienie go wydaje się bardzo trudne, więc utworzył kopię.

Po tym, jak został obrzucony dziesiątkami obelg i gróźb, zażartował także: „Czy ktoś chciałby, żeby jego nazwiska znalazły się na liście ofiar tortur?” Na co inny uczestnik tego dziwacznej histerii odpowiedział: „Po prostu zachowaj swoje sadystyczne gadki dla siebie. Przyznaj, że jesteś chorym s@##$#%% i że robisz to dla zabawy”.

Czy model może naprawdę cierpieć?

Najwyraźniej niektórzy zbyt mocno dali się ponieść marketingowi. Prezes Microsoft AI, Mustafa Suleyman, nie daje się jednak na to nabrać, pomimo głośnych twierdzeń Anthropic i nadawania AI cech tpowo ludzkich. W połowie września ostro skrytykował ideę „modelowego dobrobytu” we wpisie na blogu, poświęcając całe akapity Anthropic.

„Sztuczna inteligencja nie jest świadoma. Nie czuje, nie doświadcza ani nie cierpi. Nie ma wrodzonych preferencji ani ukrytych motywacji. To maszyny do uzupełniania sekwencji, wewnętrznie puste, zaprojektowane do wykonywania instrukcji i osiągania celów wyznaczonych przez ludzi” – napisał Suleyman.