System AI pomylił klarnet z pistoletem. Zamknięto szkołę i ogłoszono alarm

W jednej ze szkół średnich na Florydzie oparty na AI system wykrywania broni błędnie zidentyfikował klarnet jako broń palną, uruchamiając pełną procedurę bezpieczeństwa i doprowadzając do blokady kampusu. Zdarzenie miało miejsce we wtorek w szkole Lawton Chiles w mieście Oviedo.

Automatyczny alarm wprowadził w szkole kod czerwony, a na miejsce skierowano administrację oraz policję. Dopiero po dokładnym sprawdzeniu okazało się, że domniemanym zagrożeniem był uczeń niosący instrument muzyczny.

Reakcja szkoły i komunikat do rodziców

Dyrektorka szkoły Melissa Laudani poinformowała rodziców o przebiegu wydarzeń, podkreślając, że nie istniało realne zagrożenie dla uczniów ani personelu. Jednocześnie zaapelowała o rozmowy z młodzieżą na temat zachowań, które mogą zostać błędnie zinterpretowane przez systemy bezpieczeństwa funkcjonujące na terenie szkoły.

Jej słowa miały uspokoić rodziców, jednak sam fakt uruchomienia alarmu wywołał niepokój i pytania o niezawodność technologii, od której coraz częściej zależy codzienne funkcjonowanie placówek edukacyjnych w Stanach Zjednoczonych.

Fałszywy alarm w szkole średniej ponownie budzi wątpliwości co do dokładności tych systemów.

Jak działa szkolny system wykrywania broni

Szkoły publiczne hrabstwa Seminole korzystają z platformy ZeroEyes, komercyjnego systemu wykrywania zagrożeń opartego na analizie obrazu wideo w czasie rzeczywistym. Technologia integruje się z istniejącymi kamerami monitoringu i wykorzystuje algorytmy wizji komputerowej wytrenowane na setkach tysięcy obrazów przedstawiających różne typy broni palnej.

W założeniu, gdy algorytm wykryje potencjalną broń, nagranie trafia do analityków w centrum monitoringu firmy, gdzie alarm powinien zostać potwierdzony przed powiadomieniem szkoły i służb. W przypadku incydentu w Oviedo ten etap nie zapobiegł uruchomieniu procedur kryzysowych.

Kosztowna technologia bez twardych danych

Z publicznie dostępnych dokumentów wynika, że okręg szkolny płaci około 250 tysięcy dolarów za subskrypcję systemu ZeroEyes. Władze edukacyjne nie ujawniają jednak, czy technologia ta kiedykolwiek doprowadziła do udaremnienia realnego zagrożenia. Brakuje również oficjalnych statystyk dotyczących liczby fałszywych alarmów oraz skuteczności wykrywania broni.

Firma deklaruje obecność w 43 stanach i współpracę z dziesiątkami okręgów szkolnych, także na Florydzie, jednak publiczne raporty na temat precyzji działania systemu pozostają ograniczone.

Narastające wątpliwości rodziców i ekspertów

Po incydencie coraz głośniej wybrzmiewają głosy rodziców domagających się większej przejrzystości. Pojawiają się pytania o realne korzyści płynące z wdrożenia systemu oraz o to, czy szkoły otrzymują rzetelne informacje pozwalające ocenić jego działanie. Krytycy zwracają uwagę, że brak niezależnych audytów sprzyja bezrefleksyjnemu zaufaniu technologii.

Analitycy zajmujący się bezpieczeństwem publicznym podnoszą argument, że podobne rozwiązania mogą tworzyć złudne poczucie kontroli, zamiast realnie ograniczać ryzyko przemocy. Częste fałszywe alarmy prowadzą do stresu, dezorganizacji zajęć oraz niepotrzebnych interwencji służb.

AI w szkołach pod lupą obrońców prywatności

Organizacje zajmujące się prawami obywatelskimi od dawna ostrzegają przed rosnącym nadzorem opartym na sztucznej inteligencji w szkołach. Zdaniem ekspertów systemy generujące błędne alarmy mogą narażać uczniów na powtarzające się lockdowny oraz zwiększoną obecność policji, wpływając negatywnie na poczucie bezpieczeństwa i atmosferę nauki.

Przypadek z Oviedo stał się kolejnym argumentem w tej dyskusji, pokazując, jak łatwo algorytmy mogą pomylić codzienne przedmioty z realnym zagrożeniem.

Rosnąca liczba ataków w szkołach sprawiła, że placówki edukacyjne coraz chętniej sięgają po narzędzia AI. Incydent z klarnetem unaocznił jednak, jak trudne jest zastosowanie modeli uczonych na ograniczonych zbiorach danych w złożonym i chaotycznym środowisku szkolnym.

Na razie władze hrabstwa Seminole podtrzymują stanowisko, że system pozostaje ważnym elementem strategii bezpieczeństwa. Nie wiadomo jednak, czy zdarzenie to skłoni decydentów do renegocjacji umów, żądania szczegółowych raportów skuteczności lub ponownej oceny roli sztucznej inteligencji w ochronie uczniów.