AI w systemach medycznych to katastrofa. Rośnie liczba poszkodowanych

Sztuczna inteligencja coraz śmielej wkracza do medycyny zabiegowej. Algorytmy wspierają planowanie operacji, podpowiadają lekarzom kolejne kroki i analizują dane w czasie rzeczywistym. Wraz z rosnącą liczbą wdrożeń pojawiają się jednak pytania o bezpieczeństwo i odpowiedzialność.

Agencja Reuters opublikowała obszerny raport oparty na dokumentach regulacyjnych i pozwach sądowych dotyczących kilku urządzeń wyposażonych w moduły AI. W części opisów pojawiają się dramatyczne relacje z sal operacyjnych, w których doszło do ciężkich powikłań, udarów i gwałtownych krwotoków.

Wzrost liczby incydentów

Materiały przywoływane przez dziennikarzy nie tworzą zamkniętej listy zdarzeń i nie pozwalają na jednoznaczne wskazanie algorytmów jako głównego źródła problemów. Jednocześnie autorzy pozwów twierdzą, że po wprowadzeniu funkcji opartych na uczeniu maszynowym częstotliwość niepożądanych sytuacji wzrosła.

Reuters zwraca uwagę na jeszcze jeden trend. Zatwierdzone przez FDA urządzenia medyczne z komponentami AI notują wyższy wskaźnik wycofań z rynku niż porównywalne produkty z wcześniejszych lat. Regulator pod presją

Według rozmówców agencji tempo napływu nowych rozwiązań wyraźnie przekracza zasoby kadrowe instytucji. W Dywizji Obrazowania, Diagnostyki i Niezawodności Oprogramowania miało odejść kilkunastu specjalistów zajmujących się sztuczną inteligencją. Redukcje zbiegły się z okresem gwałtownego przyrostu wniosków o dopuszczenie kolejnych produktów.

Krytycy obecnego systemu podnoszą, że część procedur traktuje nowe wersje sprzętu jako rozwinięcie wcześniej znanych konstrukcji. Producenci mogą w ten sposób szybciej przechodzić ścieżkę administracyjną. Lekarze i pacjenci oczekują jednak pełnej przejrzystości.

Sprawa TruDi

Jednym z najmocniejszych przykładów przywoływanych w raporcie jest system nawigacyjny TruDi firmy Acclarent, używany przy operacjach zatok. Po kilku latach obecności na rynku producent rozszerzył jego możliwości o algorytmy AI. Od tego momentu liczba zgłoszeń dotyczących nieprawidłowości miała wyraźnie wzrosnąć. W dokumentach wymienia się wycieki płynu mózgowo-rdzeniowego, przebicia podstawy czaszki, uszkodzenia tętnic oraz udary. Te zarzuty stały się podstawą postępowań sądowych.

Historie pacjentów

Erin Ralph twierdzi w pozwie, że wskazówki generowane przez system doprowadziły chirurga w okolice tętnicy szyjnej. W wyniku komplikacji pojawił się zakrzep i udar. Pacjent spędził kilka dni na oddziale intensywnej terapii, przeszedł poważne leczenie neurochirurgiczne i do dziś uczestniczy w rehabilitacji.

W przypadku Donny Fernihough doszło do pęknięcia tętnicy podczas zabiegu. Według relacji świadków krew rozprysnęła się po sali operacyjnej. Pacjentka również doznała udaru. W trakcie operacji obecny był przedstawiciel producenta.

Pełnomocnicy poszkodowanych opisują rozwiązanie jako niespójne i zawodne. W pozwach pojawiają się twierdzenia o dążeniu do szybkiej komercjalizacji technologii oraz o przyjęciu wewnętrznych progów dokładności, które budzą sprzeciw prawników.

Inne urządzenia na liście

W raporcie wspomniano także o analizatorze obrazu płodu eSonio Detect. Producent mierzy się z zarzutami dotyczącymi błędnej identyfikacji struktur anatomicznych. Do tej pory nie pojawiły się informacje o bezpośrednich szkodach u pacjentów. Pod lupą znalazły się również wszczepialne monitory kardiologiczne Medtronic LINQ. W niektórych zgłoszeniach mowa o problemach z wykrywaniem zaburzeń rytmu serca. Nie odnotowano potwierdzonych przypadków uszczerbku na zdrowiu.

Pytania o przyszłość

Debata wokół AI w medycynie przybiera na sile. Szpitale chcą korzystać z narzędzi wspierających personel, a firmy technologiczne inwestują miliardy w rozwój kolejnych generacji systemów. Każdy incydent natychmiast trafia jednak do opinii publicznej i uruchamia lawinę wątpliwości. Najbliższe lata pokażą, czy modele nadzoru i certyfikacji zostaną dostosowane do tempa innowacji oraz czy rynek znajdzie równowagę między presją wdrożeń a oczekiwaniami pacjentów.