ChatGPT znów niebezpiecznie doradza w sprawie zdrowia. Rusza pozew przeciwko OpenAI

Amerykański sąd zajmie się pozwem przeciwko OpenAI, który wniósł mieszkaniec Florydy Scott Winters, twierdzący, że rady medyczne uzyskane od ChatGPT doprowadziły go do zagrażającego życiu kryzysu zdrowotnego. Winters zarzuca firmie i jej dyrektorowi generalnemu Samowi Altmanowi zaniedbanie oraz „nieuprawnione wykonywanie zawodu lekarza”, wskazując, że chatbot zbagatelizował jego objawy (zawroty głowy i zmęczenie) uznając je za „nic groźnego” i odradzając wizytę u lekarza.

Z pozwu wynika, że mężczyzna przez wiele miesięcy korzystał z ChatGPT-4o jako swoistego doradcy zdrowotnego, przesyłając mu wyniki badań i zdjęcia rentgenowskie, a bot postawił mu „diagnozę” dysautonomii i zaproponował konkretny plan powrotu do zdrowia. Ostatecznie Winters trafił na oddział intensywnej terapii z zatorowością płucną, a jego prawnicy twierdzą, że wcześniejsze zalecenia AI mogły przyczynić się do pogorszenia jego stanu.

Sprawa nabiera znaczenia w momencie, gdy OpenAI właśnie otworzyło swój program ChatGPT Health dla wszystkich użytkowników w USA, opisując go jako narzędzie zaprojektowane we współpracy z lekarzami, które ma wspierać, a nie zastępować opiekę medyczną.

OpenAI otwiera ChatGPT Health mimo głośnego pozwu sądowego

W przeciwieństwie do klasycznej porady lekarskiej, odpowiedzi chatbota nie podlegają żadnej weryfikacji klinicznej w czasie rzeczywistym, co może prowadzić do poważnych konsekwencji, jeśli użytkownik potraktuje je jako ostateczną diagnozę.

Ludzie jednak coraz częściej pytają sztuczną inteligencję o zdrowie - według danych przywoływanych w sprawie robi to już blisko 8 na 10 dorosłych Amerykanów, a większość z nich uznaje odpowiedzi AI za wiarygodne, mimo że eksperci, w tym Mayo Clinic i Amerykańskie Towarzystwo Medyczne, podkreślają, że chatboty nie „wiedzą” nic w sensie klinicznym, a jedynie rozpoznają wzorce w danych.

Najbardziej narażeni są użytkownicy traktujący chatboty jak substytut lekarza, zwłaszcza w sytuacjach niejednoznacznych objawów. Możliwe, że pozew wymusi na OpenAI wprowadzenie wyraźniejszych ostrzeżeń lub ograniczeń w funkcjach zdrowotnych, a to na pewno przełoży się także na działania innych chatbotów.