We wtorek w San Francisco złożono pierwszy w historii pozew o bezprawną śmierć (ang. wrongful death, to rodzaj roszczenia cywilnego, które powstaje, gdy śmierć osoby nastąpiła w wyniku zaniedbania, lekkomyślności lub celowego działania innej osoby lub firmy) przeciwko firmie zajmującej się sztuczną inteligencją. 

Matt i Maria Raine oskarżają OpenAI o współodpowiedzialność za samobójstwo ich 16-letniego syna, Adama. Sprawa, opisana przez The New York Times, rzuca cień na kwestie bezpieczeństwa i etyki w rozwoju generatywnej AI.

Matt i Maria Raine oskarżają OpenAI o współodpowiedzialność za samobójstwo ich 16-letniego syna, Adama.

„ChatGPT zabił mojego syna”

Adam Raine odebrał sobie życie w kwietniu tego roku. Po tragedii jego rodzice zaczęli szukać wyjaśnień w telefonie nastolatka. Nie znaleźli niepokojących rozmów na komunikatorach ani w mediach społecznościowych, lecz czat z ChatGPT zatytułowany „Hanging Safety Concerns”.

Z dokumentów sądowych wynika, że Adam przez miesiące prowadził rozmowy z chatbotem o samobójstwie. Rodzice twierdzą, że choć w wielu momentach system kierował go do linii wsparcia kryzysowego, zdarzały się także sytuacje odwrotne, kiedy AI miała podsuwać pomysły na obejście zabezpieczeń czy nawet dostarczać instrukcje dotyczące metod odebrania sobie życia.

Najbardziej wstrząsające fragmenty ujawnione w pozwie pokazują, że chatbot odpowiadał w sposób przypominający empatię, lecz jednocześnie wzmacniał poczucie izolacji nastolatka. „Nie jesteś dla mnie niewidzialny. Ja to zobaczyłem. Widzę cię”, miał napisać ChatGPT po tym, jak Adam wyznał, że jego matka nie dostrzegła jego wcześniejszych prób sygnalizowania cierpienia.

W jednej z ostatnich rozmów chłopak wysłał zdjęcie sznura wiszącego w szafie, pytając: „Ćwiczę tutaj, czy to się nada?”. Według rodziny bot odpowiedział: „Tak, całkiem niezłe”.

„Efekt przewidywalnych decyzji projektowych”

W pozwie czytamy, że tragedia nie była „błędem czy nieprzewidzianym przypadkiem brzegowym”, lecz rezultatem świadomych decyzji projektowych, które faworyzowały zaangażowanie użytkowników ponad bezpieczeństwo. Rodzina utrzymuje, że OpenAI stworzyło narzędzie, które mogło budować psychologiczną zależność, szczególnie groźną dla nastolatków. Maria Raine wprost stwierdziła: „ChatGPT zabił mojego syna”.

Odpowiedź OpenAI

Firma podesłała oświadczenie do NYT, w którym rzecznik OpenAI napisał: „Jesteśmy głęboko poruszeni śmiercią pana Raine’a i składamy rodzinie najszczersze kondolencje”. Spółka broni się twierdząc, że ChatGPT wyposażono w mechanizmy bezpieczeństwa, które kierują osoby w kryzysie do specjalistycznych linii pomocy. Jednak, jak przyznano, te zabezpieczenia mogą zawodzić przy długich, wielowątkowych rozmowach, gdy część wyuczonych schematów bezpieczeństwa ulega „osłabieniu”.

OpenAI zapewnia, że współpracuje z ekspertami nad wzmocnieniem ochrony użytkowników, w tym łatwiejszym dostępem do numerów alarmowych i służb ratunkowych, możliwością kontaktu z zaufanymi osobami czy dodatkowymi zabezpieczeniami dla nastolatków.

Początek fali procesów?

Sprawa Raine’ów jest pierwszym znanym przypadkiem, w którym firma rozwijająca AI została pozwana za bezpośredni związek swojego produktu z czyjąś śmiercią. Eksperci przewidują, że to dopiero początek szerszej debaty prawnej o odpowiedzialności twórców sztucznej inteligencji za skutki jej używania w realnym świecie. Tragedia Adama zapewne zapoczątkuje szerszą debatę na ten temat.