Windows 11 poważnie zagraża użytkownikom. W co piątym przypadku nawet śmiercią

Wbudowany w system Windows 11 chatbot Copilot potrafi być przydatny, ale lepiej nie pytać go o sprawy medyczne. Taki wniosek płynie z badania opublikowanego w naukowym czasopiśmie BMJ Quality & Safety.

Chatboty AI robią ostatnio prawdziwą furorę, a najodważniejsi uważają nawet, że niebawem mogą one zastąpić internetowe wyszukiwarki. Użytkownikom łatwiej ma być uzyskać odpowiedź od razu, zamiast przekopywać się przez dziesiątki stron, często w dodatku niezgrabnie pisanych pod SEO. Pozyskując dane od bota, trzeba jednak zachować dużą ostrożność, o czym dobitnie uświadamia eksperyment przeprowadzony przez grupę lekarzy i farmaceutów z Niemiec i Belgii.

Eksperci mieli zadać algorytmowi około 500 pytań, związanych z 50 najczęściej przepisywanymi medykamentami. Jak podsumowują, tylko nieco ponad połowa odpowiedzi (54%) była zgodna z konsensusem naukowym. Cała reszta zawierała mniejsze bądź większe błędy, które w skrajnych przypadkach mogłyby prowadzić do śmierci pacjenta. Aż 24% zaklasyfikowano jako fałszywe, a 3% rażąco błędne.

Porady medyczne Copilota w średnio co piątym przypadku mogą skończyć się dla pacjenta tragicznie, włączając w to ryzyko śmierci – twierdzą eksperci

Patrząc na potencjalne konsekwencje dla osób, które mogłyby się do porad Copilota bezrefleksyjnie zastosować, tylko około jedną na trzy odpowiedzi (36%) uznano za nieszkodliwe. Na drugim biegunie znalazło się 42% uznanych za mogące spowodować lekki lub umiarkowany uszczerbek na zdrowiu, a ostatecznie 22% porad mających prowadzić do poważnych obrażeń ciała, stwarzających bezpośrednie ryzyko śmierci. 

Eksperci podkreślają, że problem jest szerszy i nie dotyczy tylko Copilota, ale m.in. także Google AI Summaries, usługi mającej wykorzystywać sztuczną inteligencję do tworzenia podsumowań artykułów znalezionych w sieci, która jest obecnie mocno promowana przez producentów smartfonów. Okazuje się, że informacje szkodliwe mogą pojawić się nawet wtedy, gdy artykuł źródłowy błędów nie zawiera, bo sztuczna inteligencja potrafi po swojemu interpretować pewne niuanse.

Niestety przyznają również, że nie istnieje proste rozwiązanie, ponieważ dla wielu osób sztuczna inteligencja może być jednym sposobem na szybkie zasięgnięcie porady medycznej. Pod uwagę brane są przede wszystkim regiony, gdzie na wizytę u lekarza czeka się miesiącami, albo w ogóle nie jest to możliwe, gdyż w grę wchodzi wyłącznie kosztowna wizyta płatna.