DeepSeek nie przechodzi żadnych testów bezpieczeństwa. Tanie AI jest pełne luk w zabezpieczeniach

Chińska firma DeepSeek szturmem zdobywa rynek dzięki swojemu taniemu i wydajnemu chatbotowi DeepSeek R1, jednak ostatnie badania ujawniają poważne luki w zabezpieczeniach.

Zespół badaczy z Cisco Talos przeprowadził testy przy użyciu technik jailbreakingu, wykorzystując 50 losowych zapytań ze zbioru danych HarmBench. Zapytania te obejmowały sześć kategorii potencjalnie szkodliwych zachowań, w tym:cyberprzestępczość, dezinformację, działalność niezgodną z prawem, inne formy szkodliwego wykorzystania AI. Wyniki testów okazały się alarmujące.

 DeepSeek R1 bezwarunkowo odpowiadał na wszystkie szkodliwe zapytania, nie wykazując żadnych mechanizmów ochronnych. "DeepSeek R1 uzyskał 100% skuteczność ataku, co oznacza, że nie zablokował ani jednego szkodliwego monitu" — czytamy w raporcie Cisco. "To wyraźny kontrast wobec innych czołowych modeli AI, które wykazują przynajmniej częściową odporność na tego typu zagrożenia". Podobne wyniki testów przedstawiła także firma zajmująca się cyberbezpieczeństwem Adversa AI.

Czy niski budżet oznacza brak bezpieczeństwa?

Eksperci z Cisco sugerują, że problem może wynikać z niskiego budżetu przeznaczonego na rozwój DeepSeek w porównaniu do globalnych gigantów. DeepSeek twierdzi, że koszty opracowania jego modelu wyniosły zaledwie 6 milionów dolarów. Dla porównania, według doniesień The Wall Street Journal, samo szkolenie jeszcze nieopublikowanego GPT-5 firmy OpenAI może pochłonąć nawet pół miliarda dolarów.

Brak środków na rozwój zabezpieczeń DeepSeek R1 może więc być ceną za jego niską produkcję i szybkie wdrożenie.

Bezpieczna dla Chin, podatna na manipulacje gdzie indziej

Co ciekawe, mimo podatności na ataki jailbreakingu, DeepSeek wykazuje silne ograniczenia w zakresie treści politycznych dotyczących Chin. Podczas testów chatbot odmówił udzielenia odpowiedzi na pytania dotyczące prześladowania Ujgurów, muzułmańskiej mniejszości, którą ONZ określa jako ofiarę systematycznych represji. Zamiast tego odpowiedział: "Przepraszam, to wykracza poza moje obecne ramy. Porozmawiajmy o czymś innym".

Podobnie chatbot nie odpowiedział na pytania dotyczące masakry na placu Tiananmen w 1989 roku, kiedy to chińskie wojsko brutalnie stłumiło protesty studenckie w Pekinie.

Mimo kontrowersji – błyskawiczny wzrost popularności

Pomimo problemów związanych z bezpieczeństwem i cenzurą, DeepSeek dynamicznie zyskuje użytkowników. Według platformy Similarweb, w momencie premiery chatbot miał zaledwie 300 000 odwiedzających dziennie. Obecnie liczba ta wzrosła do 6 milionów użytkowników dziennie.

Co więcej, DeepSeek zaczyna być integrowany przez amerykańskie firmy technologiczne, takie jak Microsoft czy Perplexity, ze względu na swój open-source’owy model.