AI pomyliło opakowanie po chipsach z bronią i wezwało policję do szkoły

Mimo ogromnych inwestycji w rozwój sztucznej inteligencji nie jest to technologia perfekcyjna i wciąż popełnia błędy, które mogą mieć wpływ na człowieka. Jedna z takich sytuacji miała miejsce w amerykańskim liceum, gdzie AI pomyliła opakowanie po chipsach z... bronią, co doprowadziło do interwencji policji.

Taki Allen, 16-letni uczeń Kenwood High School w hrabstwie Baltimore w stanie Maryland, doświadczył pomyłki sztucznej inteligencji na własnej skórze. Po zakończeniu treningu siedział z przyjaciółmi na zewnątrz budynku i czekał aż zostanie odebrany ze szkoły. Około 20 minut po zjedzeniu Doritosów jego oczom ukazało się około osiem policyjnych radiowozów.

AI pomyliła chipsy z bronią i wezwała policję

Funkcjonariusze wysiedli, skierowali broń w stronę chłopca, kazali mu podnieść ręce do góry, a następnie uklęknąć, by mogli założyć kajdanki. Ostatecznie Allen nie został aresztowany, ale jak widać, doszło do fatalnej pomyłki. Policjanci, którzy na miejscu spodziewali się zastać groźnego nastolatka z bronią spotkali równie zaskoczonego ucznia, bez broni.

Problem wynikał z tego, że sztuczna inteligencja analizująca nagrania z kamer monitorujących teren szkoły błędnie uznała zgniecioną torbę po chipsach za broń i powiadomiła policję. Po sprawdzeniu materiału wideo funkcjonariusze znaleźli w pobliżu kosza na śmieci wspomnianą torbę chipsów.

Jeden z policjantów zauważył, że "tak to wyglądało, jakby jadł chipsy, a AI uznało to za broń". Inny dodał, że "AI nie jest najlepsze".

Rzeczniczka szkoły, Myriam Rogers, twierdzi, że system działa zgodnie z przeznaczeniem, ponieważ jego zadaniem jest powiadomienie ludzi o potencjalnym zagrożeniu. Allen nie podziela jednak jej opinii, twierdząc, że "torba po chipsach nie powinna być mylona z bronią".

Dyrektorka szkoły, Kate Smith, wysłała list do rodziców, podkreślając wagę bezpieczeństwa uczniów. Allen dodał, że do dyrektorki zwrócił się dopiero trzy dni po całym zajściu. Incydent ten wywołał reakcję lokalnych polityków, którzy wezwali do sprawdzenia, jak technologia AI jest używana w szkołach.

Trauma pozostała

Allen obecnie po treningach czeka w szkole, ponieważ nie czuje się bezpiecznie na zewnątrz, zwłaszcza jedząc chipsy lub pijąc napój.

Firma Omnilert, twórca systemu AI wykorzystywanego przez szkołę, wyraziła ubolewanie z powodu tego incydentu i zapewniła, że był to jedynie incydent, a nie standard. Dodano, iż narzędzie ma chronić uczniów szkoły przed potencjalnym zagrożeniem.