Traktowała Claude jak pamiętnik. Pamiętnik zadzwonił na policję

Kobieta z Florydy została oskarżona o popełnienie przestępstwa po tym, jak w rozmowie z chatbotem Claude miała napisać, że planuje zaatakować biuro miejscowego szeryfa. System bezpieczeństwa Anthropic oznaczył wpis jako potencjalne zagrożenie. Po analizie zdecydowano się zawiadomić policję.

Carli Michelle Heller z Bonita Springs, która została aresztowana, 26 września miała napisać w rozmowie z Claude, iż zamierza zaatakować biuro szeryfa. Kobieta później powiedziała śledczym, że traktowała chatbota jak pamiętnik.

Kobieta aresztowana po rozmowie z chatbotem

Wpis został wykryty przez mechanizmy bezpieczeństwa Claude i skierowany do pracownika, który miał ocenić zagrożenie. Po uznaniu treści za wiarygodną groźbę informacja trafiła do organów ścigania. Zgodnie z zasadami Anthropic firma może w niektórych sytuacjach przekazać informacje o użytkowniku, jeśli uzna, że jest to konieczne do zapobieżenia śmierci lub innym poważnym zagrożeniom.

Kobieta z Florydy została oskarżona o popełnienie przestępstwa po tym, jak w rozmowie z chatbotem Claude miała napisać, że planuje zaatakować biuro miejscowego szeryfa.

Funkcjonariusze ustalili tożsamość Heller i udali się do jej domu. Kobieta została zatrzymana, a sprawą zajął się detektyw z wydziału wywiadowczego biura szeryfa. Heller usłyszała zarzut napisania groźby przemocy. Na Florydzie obowiązuje przepis 836.10, zgodnie z którym wysłanie, opublikowanie lub przekazanie pisemnego albo elektronicznego komunikatu zawierającego groźbę zabójstwa lub zranienia, masowej strzelaniny albo aktu terroryzmu może stanowić przestępstwo drugiego stopnia. Aby doszło do złamania przepisu informacja musi zostać przekazana drugiej osobie w taki sposób, by mogła się z nią zapoznać.

W ubiegłym miesiącu informowano o pozwie przeciwko OpenAI i Samowi Altmanowi w Kolumbii Brytyjskiej, związanym z zarzutami, że firma mogła wcześniej zareagować na zagrożenie dotyczące strzelaniny. Wcześniejsze rozmowy sprawcy o przemocy z użyciem broni zostały oznaczone przez zespół bezpieczeństwa OpenAI, ale nie przekazano ich policji, ponieważ nie spełniały progu wymaganego do zgłoszenia.

W czerwcu Floryda pozwała również OpenAI i Altmana, twierdząc, że ChatGPT przyczynił się do realnych szkód, w tym do strzelaniny na Florida State University w 2025 roku.

Nie tylko Claude może mieć dostęp do wrażliwych treści

Problem nie dotyczy wyłącznie gróźb. W ubiegłym miesiącu pojawiły się również informacje, że pracownicy zajmujący się oceną działania edytora obrazów Microsoft Copilot mogą mieć dostęp do promptów użytkowników, przesłanych zdjęć oraz wygenerowanych modyfikacji. Wśród analizowanych materiałów miały znajdować się również treści seksualne, niepokojące lub potencjalnie nielegalne. Ich zadaniem nie było jednak zgłaszanie takich materiałów, lecz ocena jakości działania systemu.

Przed wpisaniem do chatbota szczególnie wrażliwych informacji warto pamiętać, że nie jest to prywatny dziennik przeznaczony wyłącznie dla jednej osoby.