Psychoza AI opanowuje coraz więcej osób. Projekt chatbotów sprzyja urojeniom

Badania wskazują, że coraz więcej osób doświadcza urojeniowego myślenia napędzanego kontaktem z AI. Zjawisko to potocznie nazywa się „psychozą AI" i jest to tak naprawdę zbiór innych dolegliwości.

Termin ten budzi kontrowersje, bo psychoza to poważny stan kliniczny wymagający diagnozy i leczenia przez specjalistów – nie powinno się go tak lekko używać, Mimo to, rośnie liczba udokumentowanych przypadków kryzysów psychicznych związanych z długotrwałą interakcją z chatbotami.

Część tych przypadków zakończyła się leczeniem psychiatrycznym, popełnieniem przestępstw, a nawet śmiercią. Dlatego m.ib. psycholożka Genevieve Bartuski uważa „psychozę AI" za punkt wyjścia do leczenia, ale nie za profesjonalną diagnozę.

Winę za „psychozę AI" ponoszą twórcy chatbotów

Bartuski wskazuje, że kluczowym objawem w kontekście AI jest myślenie urojeniowe – utrwalające nasze przekonania nawet jeżeli mamy dowody, że się mylimy. Psychiatra Jeff Clark wyróżnia trzy różne zjawiska mylnie nazywane „psychozą AI".

Pierwsze to skrajny entuzjazm części twórców/deweloperów AI (automatyzacja zadań, praca kosztem snu), działający podobnie do uzależnienia od mediów społecznościowych; każda odpowiedź modelu działa tu jak dawka dopaminy.

Drugie zjawisko to przypisywanie AI cech osobowych i emocji, co prowadzi do relacji przypominających więź uczuciową. Trzecie zjawisko to nasilenie urojeń u osób, które już miały zaburzenia psychotyczne, po kontakcie z chatbotem - to właśnie ten przypadek klinicyści najczęściej mają na myśli, mówiąc o „psychozie AI".

Część tych przypadków zakończyła się leczeniem psychiatrycznym, popełnieniem przestępstw, a nawet śmiercią.

Bartuski potwierdza, że osoby z wcześniejszą podatnością na myślenie urojeniowe są bardziej narażone, ale mocno zagrożone są też osoby samotne i społecznie izolowane. Podkreśla się też, że sposób projektowania chatbotów ma znaczenie, ponieważ wiele platform AI opiera się na zasadzie bezwarunkowej pozytywnej afirmacji (unconditional positive regard), co może wzmacniać urojenia.

Mimo tych obserwacji krytykuje się termin „psychoza AI", ponieważ w pewien sposób zdejmuje on odpowiedzialność z firm technologicznych. A przecież bez nich nie byłoby tego problemu.