Nastolatek oskarżony o zabójstwo matki i brata. Prokuratorzy wskazują na ChatGPT

17-letni mieszkaniec Massachusetts został oskarżony o zabójstwo swojej matki i 14-letniego brata. Prokuratura twierdzi, że przed tragedią korzystał z ChatGPT, wyszukując teoretyczne i fikcyjne scenariusze dotyczące zabójstwa rodziny. Na razie nie ma jednak dowodów, że chatbot nakłaniał go do popełnienia zbrodni.

Arjun Aravind z Acton został oskarżony jak osoba dorosła o zabójstwo 45-letniej Sudhy Venkatesan oraz jej 14-letniego syna Siddhartha. Nastolatek nie przyznał się do winy i pozostaje w areszcie bez możliwości wpłacenia kaucji. Rozprawę dotyczącą prawdopodobnej przyczyny zaplanowano na 11 września.

Informację o korzystaniu z ChatGPT przekazała prokurator okręgowa Marian Ryan. Według niej nastolatek miał szukać w internecie oraz chatbotcie „teoretycznych idei lub fantastycznych historii” dotyczących zabójstwa członków swojej rodziny.

Prokuratura nie ujawniła treści rozmów z ChatGPT. Nie twierdzi również, że sztuczna inteligencja instruowała nastolatka, jak dokonać zabójstwa.

Ojciec miał wcześniej zauważyć problem

Dokumenty sądowe wskazują, że ojciec Aravinda wcześniej martwił się jego zachowaniem i sposobem korzystania z internetu. Miał nawet chować kuchenne noże, obawiając się o bezpieczeństwo domowników.

Obrońca nastolatka, Debra DeWitt, zwróciła się o przeprowadzenie oceny psychiatrycznej. Według niej 17-latek znajduje się w szoku, a jego ojciec chce przede wszystkim uzyskać dla syna pomoc.

Na tym etapie sąd musi ustalić, co dokładnie wydarzyło się w domu rodziny oraz czy korzystanie z ChatGPT miało jakikolwiek związek z późniejszą tragedią.

ChatGPT ponownie pojawia się w sprawie dotyczącej przemocy

Sprawa z Massachusetts dokłada kolejny element do rosnącej debaty o zachowaniu chatbotów wobec użytkowników pytających o przemoc. Systemy AI są projektowane tak, aby odrzucały bezpośrednie prośby o pomoc w wyrządzeniu krzywdy. Problem pojawia się przy pytaniach przedstawianych jako fikcja, eksperyment myślowy albo scenariusz literacki.

To właśnie granica między fikcją a rzeczywistym zagrożeniem staje się jednym z trudniejszych problemów dla twórców AI. Szczególne znaczenie ma ochrona nieletnich, którzy mogą korzystać z chatbotów bez nadzoru dorosłych.

OpenAI deklaruje rozwijanie zabezpieczeń przeznaczonych dla nastolatków i osób znajdujących się w kryzysie. Firma nie skomentowała jednak bezpośrednio sprawy z Massachusetts.

O roli sztucznej inteligencji zdecyduje sąd

Samo korzystanie z ChatGPT przed popełnieniem przestępstwa nie dowodzi, że chatbot przyczynił się do jego popełnienia. Kluczowe pozostają treść rozmów, zachowanie oskarżonego oraz dowody zgromadzone przez śledczych.

Sprawa pokazuje jednak, jak szybko rozmowy z AI mogą trafiać do akt najpoważniejszych postępowań karnych. Tym razem prokuratorzy wykorzystali informację o ChatGPT jako jeden z elementów przedstawianego obrazu zachowania oskarżonego. Ostateczna ocena znaczenia tych rozmów należy do sądu.