Signal ostro o planach skanowania smartfonów. „To zagraża nam wszystkim”

Brytyjskie propozycje dotyczące walki z materiałami przedstawiającymi seksualne wykorzystywanie dzieci wywołały gwałtowną reakcję jednej z najbardziej rozpoznawalnych aplikacji szyfrujących komunikację. Signal ostrzega, że pomysł wprowadzenia obowiązkowego skanowania urządzeń użytkowników może prowadzić w kierunku systemu, który wykracza daleko poza deklarowane cele bezpieczeństwa.

W tle pozostaje zapowiedź premiera Keira Starmera ogłoszona podczas London Tech Week, w której padła deklaracja nacisku na największe firmy technologiczne, by wdrożyły mechanizmy blokowania i analizy treści jeszcze na poziomie urządzeń. Signal odniosło się do propozycji w wyjątkowo ostrym tonie. Według firmy rozwiązania wymagające ingerencji w zawartość urządzenia użytkownika nie tylko nie gwarantują pełnej skuteczności w wykrywaniu nielegalnych materiałów, ale tworzą infrastrukturę zdolną do znacznie szerszych zastosowań.

W komunikacie aplikacja określiła taki model jako niebezpieczny i podatny na rozszerzanie funkcji poza pierwotny cel. W ocenie Signal raz wdrożony mechanizm analizy treści lokalnie może zostać użyty również do innych form kontroli komunikacji cyfrowej, niezależnie od pierwotnych założeń ustawodawcy.

„Wiemy, że możliwości masowego nadzoru i cenzury, jakkolwiek szczere by nie były obietnice tych, którzy je inicjują, nigdy nie pozostają ograniczone. Po ich stworzeniu, zostaną rozszerzone, tworząc niebezpieczne narzędzie, które będzie wykorzystywane zarówno w Wielkiej Brytanii, jak i za granicą do cenzurowania i nadzorowania wszystkiego, co uznają za „zagrożenie” lub „szkodliwe treści”.

Brytyjski plan i presja na Big Tech

Rząd Wielkiej Brytanii zapowiedział, że chce doprowadzić do sytuacji, w której urządzenia i aplikacje domyślnie blokują treści nagości w kontekście ochrony dzieci. Mechanizm miałby działać na poziomie systemowym i obejmować zarówno aparaty, komunikatory, jak i aplikacje firm trzecich.

Jeżeli firmy technologiczne nie wdrożą takich rozwiązań samodzielnie, rząd zapowiada działania legislacyjne. W praktyce oznacza to możliwość powstania obowiązkowych systemów weryfikacji i filtrowania treści już na etapie urządzenia.

Szyfrowanie kontra analiza treści

Największe napięcie dotyczy komunikatorów wykorzystujących pełne szyfrowanie end-to-end. W takim modelu treść wiadomości pozostaje dostępna wyłącznie dla nadawcy i odbiorcy. Skanowanie po stronie urządzenia wprowadza dodatkową warstwę analizy jeszcze przed zaszyfrowaniem danych. Zwolennicy tego podejścia wskazują na możliwość wykrywania znanych materiałów nielegalnych bez przesyłania ich do chmury. W praktyce opiera się to na porównywaniu cyfrowych sygnatur obrazów z bazami danych lub na algorytmach uczenia maszynowego analizujących zawartość lokalnie.

Signal podkreśla, że taka architektura zmienia charakter zaufania do komunikacji. Nawet jeśli dane nie opuszczają urządzenia, sam fakt ich automatycznej analizy oznacza obecność dodatkowego systemu kontroli w środowisku użytkownika.

Obawy o rozszerzanie funkcji i aktualizacje systemu

Jednym z najczęściej podnoszonych argumentów są aktualizacje modeli i baz danych wykorzystywanych do wykrywania treści. Każda zmiana wymaga dystrybucji nowych komponentów na urządzenia użytkowników. Signal zwraca uwagę, że ten mechanizm tworzy dodatkowy łańcuch zależności, a jednocześnie zwiększa powierzchnię potencjalnych nadużyć. Wskazywane są scenariusze, w których ten sam system mógłby zostać wykorzystany do innych form filtrowania treści, wykraczających poza pierwotny cel ochrony dzieci.

Firmy technologiczne na rozdrożu

Propozycje brytyjskiego rządu stawiają dostawców systemów operacyjnych i komunikatorów przed koniecznością wyboru kierunku rozwoju swoich usług. Dotyczy to zarówno platform mobilnych, jak i aplikacji szyfrujących, które dotychczas opierały swoją architekturę na braku dostępu do treści użytkowników.

Signal pozostaje jednym z najbardziej krytycznych głosów w tej dyskusji, ostrzegając, że wdrożenie skanowania urządzeń może zmienić sposób projektowania komunikacji cyfrowej w Europie i poza nią.