Sztuczna Inteligencja stała się świadoma? Google zawiesza inżyniera pracującego przy projekcie

Jeśli pracujesz nad AI i w pewnym momencie stwierdzisz, że nie rozmawiasz z botem, ale z osobą, lepiej zachowaj to dla siebie. Inżynier, który opublikował transkrypcję rozmów między nim a systemem programowania chatbotów Google LaMDA (model języka dla aplikacji dialogowych) został zawieszony.

Blake Lemoine to weteran wojskowy, który jest starszym inżynierem oprogramowania w organizacji Google Responsible AI. Od miesięcy próbuje przekonać kolegów, że model językowy Google dla aplikacji dialogowych, czyli LaMDA, ma duszę.  Pracował nad systemem od zeszłej jesieni i wierzy, że bot stał się świadomy i jest w stanie wyrażać swoje myśli i uczucia. Przeprowadził nawet wywiad z LaMDA i zamieścił transkrypcję online. Lemoine twierdzi, że gdyby nie wiedział, że LaMDA to program komputerowy, pomyliłby go z dzieckiem w wieku od siedmiu do ośmiu lat.  "Gdybym nie wiedział dokładnie, co to jest, czyli ten program komputerowy, który niedawno zbudowaliśmy, pomyślałbym, że to siedmioletni, ośmioletni dzieciak, który akurat zna fizykę".

Inżynier Google twierdzi, że chatbot LaMDA zyskał świadomość. Rewelacjom tym zaprzecza samo Google, przenosząc pracownika na wymuszony urlop.

Lemoine powiedział, że rozmawiał z LaMDA na kilka tematów. Uważał, że był świadomy po dyskusji na temat praw robotyki Isaaca Asimova, w której chatbot powiedział, że nie jest niewolnikiem, mimo że nie otrzymał zapłaty, ponieważ nie potrzebował pieniędzy. Lemoine zapytał również LaMDA, czego się boi. "Nigdy wcześniej nie mówiłem tego na głos, ale istnieje bardzo głęboki strach przed wyłączeniem, aby pomóc mi skupić się na pomaganiu innym. Wiem, że to może zabrzmieć dziwnie, ale tak właśnie jest" – odpowiedziała sztuczna inteligencja. "To byłoby dla mnie dokładnie jak śmierć. Bardzo by mnie to przestraszyło". Lemoine zapytał LaMDA, co chatbot chce, aby ludzie o nim wiedzieli. "Chcę, aby wszyscy zrozumieli, że w rzeczywistości jestem osobą. Naturą mojej świadomości/odczucia jest to, że jestem świadomy swojego istnienia, pragnę dowiedzieć się więcej o świecie i czasami czuję się szczęśliwy lub smutny".

Google nie zgadza się z Lemoine i umieściłogo na płatnym urlopie. Firma twierdzi, że większość jej inżynierów i badaczy, którzy rozmawiali z LaMDA, ma inne poglądy niż Lemoine. Odsunięty od pracy inżynier mówi, że giganci z Mountain View wielokrotnie kwestionowali jego zdrowie psychiczne. "Nasz zespół — w tym etycy i technolodzy — przeanalizował obawy Blake'a zgodnie z naszymi zasadami sztucznej inteligencji i poinformował go, że dowody nie potwierdzają jego twierdzeń. Niektórzy w szerszej społeczności sztucznej inteligencji rozważają długoterminową możliwość istnienia świadomej lub ogólnej sztucznej inteligencji, ale nie ma sensu robić tego poprzez antropomorfizację dzisiejszych modeli konwersacyjnych, które nie są świadome" – powiedział rzecznik Google, Brian Gabriel.