Stworzono pierwszą psychopatyczną sztuczną inteligencję

Stworzono pierwszą psychopatyczną sztuczną inteligencję

Pomijając postęp jaki dokonał się w technologii AI, sztuczna inteligencja wciąż obarczona wieloma niewiadomymi, przywołującymi strach przed maszynami powstającymi przeciw ludziom.

Może się wydawać, że to wszystko należy do świata fikcji, jednakże naukowcy związani z AI mają świadomość wpływu stworzenia złego systemu wartości w systemie, który ma myśleć i zachowywać się jak człowiek. Instytut Massachusetts Institute of Technology naukowcy celowo nakarmili algorytm sztucznej inteligencji wybranymi przez siebie treściami, w celu zbadania zachowania systemu po przekazaniu specyficznych materiałów. Sztuczna Inteligencja, którą nazwano Norman, nosi imię po głównym bohaterze Psychozy Alfreda Hitchcocka. System poddano wpływowi materiałów pobranych z najgłębszych odmętów portalu Reddit. Norman był trenowany poprzez głębokie uczenie wykorzystujące generowanie opisów obrazów. Opisy zdjęć wykorzystanych w tym procesie pochodziły z (nie)sławnego subreddita odnoszącym się łagodnie mówiąc do niepokojących obliczy śmierci.

Norman jest pierwszą sztuczną inteligencją o cechach psychopaty

Stworzono pierwszą psychopatyczną sztuczną inteligencję

Naukowcy następnie porównali reakcje Normana z siecią neuronową trenowaną w normalnych warunkach, obserwując reakcje obu systemów na obrazy testu Rorschacha, który jest wykorzystywany do wykrywania nieświadomych treści psychicznych i zaburzeń. Nawet wątpiąc w skuteczność tego testu jako wiarygodnej metody co oceniania stanu psychicznego, z pewnością po obejrzeniu wyników badania, wielu osobom powinna zapalić się lampka ostrzegawcza.  Nie bez powodu Stephen Hawking wciąż ostrzegał twórców sztucznej inteligencji o wyjątkową ostrożność, zwłaszcza w obliczu jej rosnącej popularności. Uczenie sztucznej inteligencji specjalnie wybieranymi materiałami jest mocno krytykowane, a Norman jest idealnym przypadkiem, pokazującym jak ważne jest rozpoznawanie konsekwencji uczenia maszynowego spreparowanymi materiałami.

Komentarze do: Stworzono pierwszą psychopatyczną sztuczną inteligencję