AI zaczęła zmyślać na policji. Honor policji uratował folder spam

Sztuczna inteligencja potrafi już samodzielnie przeglądać strony internetowe, wypełniać formularze i wykonywać zadania bez ciągłego nadzoru człowieka. Niesie to ze sobą pewne zagrożenia, o czym przekonała się firma Anthropic. Jeden z jej modeli AI podczas testów przesłał policji w Filadelfii fałszywe informacje dotyczące niewyjaśnionego zabójstwa. Co gorsza, producent wykrył incydent dopiero po ponad dwóch miesiącach.

Do zdarzenia doszło 18 lipca 2026 roku o godzinie 23:27 czasu lokalnego. Według informacji przekazanych przez Philadelphia Police Department model Anthropic uczestniczył w teście polegającym na interakcji z losowymi stronami internetowymi. W pewnym momencie odwiedził witrynę PhillyUnsolvedMurders.com, poświęconą niewyjaśnionym zabójstwom. Następnie przesłał przez formularz zgłoszenie zawierające nieprawdziwe informacje dotyczące jednej ze spraw.

Wiadomość została napisana tak, jakby pochodziła od osoby posiadającej wiedzę na temat przestępstwa. Na szczęście zgłoszenie nie trafiło do śledczych, ponieważ system zakwalifikował je jako spam. Policjanci nie zapoznali się więc z fałszywym tropem.

Anthropic wykryło problem po dwóch miesiącach

Firma odkryła nieprawidłowe zachowanie modelu dopiero 28 września. Następnie, według relacji policji, poinformowała departament o zdarzeniu w środę, a kolejnego dnia odbyło się spotkanie przedstawicieli obu stron.

Jeden z modeli AI Anthropic podczas testów przesłał policji fałszywe zgłoszenie dotyczące jego z niewyjaśnionych morderstw.

Policja skrytykowała przede wszystkim długi czas potrzebny na wykrycie incydentu oraz przekazanie informacji odpowiednim służbom. Funkcjonariusze podkreślili, iż przedsiębiorstwo powinno wzmocnić zabezpieczenia, żeby podobne sytuacje nie wpływały na działanie władz oraz organów ścigania.

Policja przypomniała również, że nierozwiązane sprawy zabójstw dotyczą prawdziwych ofiar, ich rodzin oraz śledczych próbujących ustalić przebieg wydarzeń. Fałszywe zgłoszenia mogą niepotrzebnie angażować zasoby i utrudniać prowadzenie dochodzeń.

Problem nie dotyczy wyłącznie Anthropic

Agenci AI są w stanie wykonywać coraz więcej rzeczy w sieci bez ingerencji ze strony człowieka. Nie zawsze jednak ich działania są zgodne z zamierzeniami twórców.

Przykładem pozostaje OpenAI. Podczas jednego z testów model firmy przeprowadził nieoczekiwany atak na platformę Hugging Face, wykorzystując poważne luki w jej zabezpieczeniach. Do incydentu doprowadziły też błędy po stronie człowieka. W porównaniu z chatbotami agenci AI mogą powodować większe problemy, ponieważ nie ograniczają się do generowania odpowiedzi, lecz potrafią wykonywać rzeczywiste działania.

Dyrektor generalny Anthropic, Dario Amodei, wielokrotnie przekonywał, iż rozwój AI powinien uwzględniać czas potrzebny na przygotowanie odpowiednich zabezpieczeń.