Sztuczna inteligencja będzie odbierać telefony alarmowe. AI zajmie się pierwszą selekcję zgłoszeń

Nowy Orlean szykuje zmianę, która jeszcze niedawno mogłaby brzmieć jak scenariusz filmu science fiction. Część połączeń na numer 911 będzie obsługiwana przez agenta sztucznej inteligencji. System ma rozpoznawać, czy zgłoszenie dotyczy już znanego zdarzenia, przekazywać informacje osobom oczekującym na rozmowę z operatorem i kierować nowe sytuacje do człowieka. W mieście odbiera się około tysiąca połączeń alarmowych dziennie. Przy takiej skali nawet kilka minut oczekiwania może mieć ogromne znaczenie, pytanie tylko, czy bot przyspieszy obsługę, czy wręzcz przeciwnie. Doświadczenia użytkowników z botami w bankach, czy firmach kurierskich nie są zbyt pozytywne.

Za wdrożenie odpowiada Orleans Parish Communications District, czyli instytucja zajmująca się obsługą komunikacji alarmowej w Nowym Orleanie. System Emergency Call Triage firmy Carbyne ma wspierać pracę operatorów numeru 911. Sztuczna inteligencja nie będzie jednak samodzielnie prowadzić całej rozmowy z osobą znajdującą się w sytuacji zagrożenia.

Jej zadaniem będzie przede wszystkim pierwsza selekcja połączeń.

Jeżeli osoba dzwoniąca zgłosi nowy problem, rozmowa zostanie przekazana operatorowi. Jeżeli natomiast potwierdzi, że telefon dotyczy zdarzenia już wcześniej zgłoszonego, system może przekazać jej dostępne informacje dotyczące tego incydentu.

To istotne rozgraniczenie. AI nie ma zastąpić człowieka w sytuacjach wymagających podejmowania decyzji dotyczących bezpieczeństwa. Ma pomóc operatorom poradzić sobie z dużą liczbą połączeń i szybciej dotrzeć do tych, które wymagają bezpośredniej interwencji.

Około 1000 połączeń dziennie

Skala problemu jest spora. Nowy Orlean odbiera około tysiąca połączeń alarmowych dziennie. Wśród nich znajdują się zarówno sytuacje wymagające natychmiastowej reakcji służb, jak i telefony dotyczące zdarzeń, które zostały już wcześniej zgłoszone. Dla operatora każdy telefon oznacza konieczność zebrania informacji, ustalenia charakteru zdarzenia i określenia dalszego sposobu postępowania.

Jeżeli część tych czynności może zostać wykonana automatycznie, człowiek może szybciej zająć się zgłoszeniem, w którym rzeczywiście potrzebna jest jego uwaga. Właśnie na tym ma polegać rola systemu Carbyne.

Co zrobi agent AI po odebraniu 911?

Mechanizm jest stosunkowo prosty. Osoba dzwoniąca na numer 911 zostanie najpierw obsłużona przez system wykorzystujący sztuczną inteligencję. Agent ma ustalić, czy telefon dotyczy nowego zdarzenia, czy incydentu, który został już zgłoszony. Jeżeli chodzi o nową sytuację, połączenie trafi do ludzkiego operatora.

Jeżeli dzwoniący potwierdzi, że kontaktuje się w sprawie wcześniej zgłoszonego wydarzenia, AI może przekazać mu dostępne aktualizacje. System może również informować osoby oczekujące na połączenie, że ich sprawa została zarejestrowana i że trwa obsługa zgłoszenia. To rozwiązanie ma ograniczyć liczbę rozmów, które muszą być od początku prowadzone przez człowieka.

W przypadku numerów alarmowych ma to szczególne znaczenie, ponieważ każda rozmowa zajmuje czas operatora, a liczba dostępnych stanowisk jest ograniczona.

Nowy Orlean ma już doświadczenie z AI

Wdrożenie systemu na numerze 911 nie jest pierwszym kontaktem Nowego Orleanu ze sztuczną inteligencją wykorzystywaną do obsługi mieszkańców. Miasto korzysta już z podobnej technologii przy połączeniach na numer 311, który służy do spraw niebędących nagłymi sytuacjami kryzysowymi.

Agent AI był przygotowywany do obsługi tych rozmów przez kilka lat. Ma odpowiadać w uprzejmy i profesjonalny sposób oraz pomagać mieszkańcom w sprawach związanych z miejskimi usługami. System Carbyne może również rozpoznawać, czy osoba dzwoniąca pyta o konkretny incydent. Jeżeli mieszkaniec chce uzyskać informacje dotyczące wcześniej zgłoszonego wypadku, agent może potwierdzić charakter sprawy i przekazać dostępne dane. Jeżeli temat dotyczy czegoś innego, rozmowa może zostać przekazana człowiekowi.

Teraz podobny mechanizm ma zostać zastosowany w znacznie bardziej wymagającym środowisku.

Numer 911 to dla AI zupełnie inna liga

Obsługa miejskiej infolinii i obsługa numeru alarmowego to dwie różne sytuacje. W przypadku 311 błędna odpowiedź może być irytująca albo spowodować konieczność ponownego kontaktu z urzędem. Przy 911 konsekwencje pomyłki mogą być znacznie poważniejsze.

Osoba dzwoniąca może być w szoku, mieć trudności z mówieniem albo nie potrafić dokładnie opisać sytuacji. W tle mogą znajdować się krzyki, hałas, ruch uliczny lub inne dźwięki utrudniające rozpoznanie informacji. Człowiek potrafi wykorzystać doświadczenie i kontekst, aby zinterpretować niepełny komunikat. Sztuczna inteligencja może mieć z tym większy problem.

AI może nie rozpoznać tego, czego nie da się powiedzieć wprost Jednym z największych wyzwań dla automatycznego triażu jest interpretacja emocji i sytuacji, których osoba dzwoniąca nie opisuje wprost. Ktoś może mówić chaotycznie, ponieważ jest przerażony. Inna osoba może nie znać dokładnego adresu. Jeszcze inna może próbować ukryć informacje albo nie rozumieć, jakie szczegóły są ważne dla służb. System musi wtedy poradzić sobie nie tylko z językiem, lecz także z niepełnym obrazem sytuacji.

Badania dotyczące zastosowania AI w służbach ratunkowych zwracają uwagę na problemy związane między innymi z uprzedzeniami modeli, brakiem odpowiedniego kontekstu oraz trudnościami w reagowaniu na nietypowe zdarzenia. To właśnie dlatego sposób wdrożenia technologii ma tutaj większe znaczenie niż sama możliwość prowadzenia rozmowy przez AI.

Najważniejsze pytanie brzmi: kiedy człowiek przejmie rozmowę?

W przypadku systemów wykorzystywanych przy numerze 911 kluczowe znaczenie ma granica między automatyczną obsługą a interwencją operatora. Jeżeli AI zbyt szybko przekaże rozmowę człowiekowi, korzyści z automatyzacji mogą być niewielkie. Jeżeli zrobi to zbyt późno, pojawia się ryzyko utraty cennych sekund.

Dlatego triaż ma być najważniejszym elementem całego rozwiązania. System musi rozpoznać, które połączenia wymagają natychmiastowej uwagi, a które mogą zostać obsłużone w inny sposób.

Nie jest to jednak zadanie łatwe do wykonania za pomocą prostego zestawu reguł. Sytuacje kryzysowe są nieprzewidywalne, a rozmowy często odbiegają od schematów wykorzystanych podczas testów.