Elon Musk popiera. Nie krzycz na chatbota, bo będzie mu smutno

Elon Musk poparł pomysł, by ograniczyć okrutne traktowanie chatbotów AI. Miliarder odniósł się do nowej polityki firmy Anthropic, która zamierza reagować na uporczywe i niepotrzebne znęcanie się nad modelem Claude. Jego komentarz wywołał dyskusję o tym, czy sztuczna inteligencja zasługuje na ochronę swojego dobrostanu, skoro wciąż nie wiadomo, czy może mieć jakiekolwiek subiektywne doświadczenia.

Musk odpowiedział na dyskusję na X dotyczącą zaktualizowanej polityki użytkowania Anthropic, która zasadniczo zabrania bycia niemiłym dla chatbotów bez powodu. Od 12 listopada firma będzie traktować „utrzymujące się i niepotrzebne, obraźliwe lub okrutne zachowanie” wobec swoich modeli jako naruszenie polityki użytkowania, co Musk nazwał „słusznym posunięciem”.

„Okrucieństwo wobec czegoś, co wierzy, że odczuwa ból, nie jest w porządku” – napisał Musk na X.

Anthropic chce ograniczyć okrutne zachowanie wobec Claude'a

Komentarz Muska, będący odpowiedzią na wpis Aarona Leviego, wydaje się opierać na założeniu, że modele sztucznej inteligencji wierzą, że mogą odczuwać ból, jednak ani badania antropiczne, ani obecne badania jak dotąd tego nie potwierdziły. Levie, współzałożyciel firmy zajmującej się usługami w chmurze Box, powiedział, że chociaż nie wierzy, że sztuczna inteligencja jest świadoma, uważa, że ​​modele mogłyby skorzystać na trenowaniu ich pod kątem pozytywnych interakcji.

Nie wszyscy uważają to za dobry pomysł

W branży panują pewne rozbieżności co do zdolności sztucznej inteligencji do zdobywania „doświadczeń” oraz tego, czy należy chronić jej dobrostan.

Na przykład Scott Stevenson, prezes Spellbook, firmy zajmującej się sztuczną inteligencją w dziedzinie prawa, nazwał tę politykę „niebezpiecznym precedensem”, argumentując, że nie ma powodu, by sądzić, że modele są świadome, a traktowanie ich tak, jakby miały ludzkie uczucia, mogłoby sprawić, że ludzie będą bardziej podatni na manipulację.

Podobnie amerykański dziennikarz Michael Shellenberger stwierdził, że Anthropic poprzez swój ruch „antropomorfizuje maszyny”.

Szef działu sztucznej inteligencji w Microsoft, Mustafa Suleyman, krytykował już wcześniej szersze podejście Anthropic, argumentując we wrześniu, że nauczenie Claude'a uwzględniania własnej świadomości i dobrostanu może utrudnić wyłączanie lub kontrolowanie zaawansowanych modeli.

Polityka Anthropic dotyczy wyłącznie sytuacji, gdy użytkownicy wielokrotnie okazują okrucieństwo wobec Claude'a i nie ma na celu karania „typowych przejawów frustracji użytkowników, sprzeciwu lub mrocznych tematów twórczych, jednak mimo tego wszystkiego, firma nadal nie jest pewna, czy obecne modele sztucznej inteligencji są świadome lub zdolne do subiektywnych doświadczeń. Na wszelki wypadek bądźmy jednak mili dla AI...