Google wcisnęło wszystkim aplikację do analizy zdjęć i nie pozwala jej wyrzucić

Google rozwija mechanizm bezpieczeństwa Androida, który potrafi analizować treści bezpośrednio na smartfonie. Problem w tym, że funkcja budzi pytania o prywatność, a teraz jej możliwości mają zostać udostępnione także zewnętrznym twórcom aplikacji.

Chodzi o Android System SafetyCore, usługę, która pojawiła się na urządzeniach z Androidem jako element infrastruktury odpowiedzialnej za klasyfikowanie potencjalnie niebezpiecznych treści. Google przekonuje, że analiza odbywa się lokalnie i wykrywane materiały nie trafiają na jego serwery.

Teraz sprawa robi się znacznie ciekawsza. Android otrzymuje bowiem API o nazwie ContentSafetyManager, dzięki któremu inne aplikacje mogą korzystać z mechanizmu klasyfikowania zawartości znajdującej się na urządzeniu.

SafetyCore wzbudził kontrowersje już wcześniej

Android System SafetyCore nie jest nowością. Usługa została szeroko zauważona przez użytkowników w 2025 roku, gdy zaczęła pojawiać się na smartfonach bez wyraźnego komunikatu poprzedzającego instalację. Brak klasycznej ikony oraz niejasna nazwa szybko doprowadziły do fali pytań o to, czym właściwie jest ten komponent.

Część użytkowników próbowała go usuwać, a w społecznościach poświęconych prywatności zaczęły pojawiać się informacje o ponownym instalowaniu SafetyCore przez system. Jeden z takich przypadków został opisany niedawno na Reddicie. W reakcji na problemy z pozbyciem się aplikacji użytkownicy stworzyli obejście, apk zastępczą o tej samej nazwie i znacznie zawyżonym numerze wersji, SafetyCore v2000000000. Użytkownicy pobierają ją z innej lokalizacji, aby Google Play Store nie mógło nadpisać aplikacji prawdziwą wersją SafetyCore.

Google przedstawia usługę w zupełnie innym świetle. Według firmy SafetyCore ma zapewniać wspólną infrastrukturę dla funkcji bezpieczeństwa Androida. Jednym z przykładów jest ostrzeganie przed potencjalnie wrażliwymi zdjęciami w Wiadomościach Google.

System wykorzystuje model uczenia maszynowego działający na urządzeniu. Obraz może zostać sklasyfikowany bez przesyłania go do chmury Google. Firma deklaruje również, że wyniki klasyfikacji oraz wykryte zdjęcia nagości nie są wysyłane na jej serwery.

„Jedna z najbardziej dystopijnych aplikacji w internecie. Celowo niejasna, instaluje się bez zgody. Pisze, że robi to lokalnie, ale Wireshark twierdzi co innego. I to całkiem sporo danych. Natychmiast to odinstalujcie. Usunięto usługę Google i zastąpiono ją MicroG i sklepem Aurora” – czytamy w jednej z recenzji.

Telefon sam ocenia, co znajduje się na zdjęciu

Mechanizm został zaprojektowany przede wszystkim z myślą o ostrzeganiu użytkownika przed potencjalnie niebezpiecznymi materiałami. W Wiadomościach Google może rozmyć zdjęcie i wyświetlić ostrzeżenie przed jego otwarciem.

Istotna jest przy tym lokalna natura całego procesu. Według dokumentacji Google zdjęcia nie są analizowane przez tę funkcję w sposób ciągły. Klasyfikacja uruchamia się w określonych sytuacjach związanych z funkcjami obsługującymi ostrzeżenia o wrażliwych treściach.

To właśnie lokalne przetwarzanie ma być jednym z najważniejszych argumentów Google dotyczących prywatności. Firma twierdzi, że dane nie muszą opuszczać smartfona, aby system mógł podjąć decyzję dotyczącą konkretnego materiału. Na tym jednak historia się nie kończy.

Google otwiera mechanizm dla innych aplikacji

Dokumentacja Androida pokazuje rozwijane API ContentSafetyManager. Deweloperzy mogą za jego pomocą zwrócić się do usługi bezpieczeństwa treści działającej na urządzeniu i poprosić o sklasyfikowanie określonego materiału. System może pracować z multimediami i zwracać jedną z kilku ogólnych ocen. Treść może zostać uznana za dozwoloną, wymagającą ostrzeżenia, zablokowaną albo niesklasyfikowaną.

Daje to twórcom aplikacji możliwość budowania własnych funkcji bezpieczeństwa bez konieczności tworzenia od podstaw modeli odpowiedzialnych za analizę obrazów.

Na pierwszy rzut oka brzmi to jak wygodne rozwiązanie. Aplikacja może na przykład poprosić Androida o ocenę zdjęcia i na tej podstawie zdecydować, czy należy je pokazać użytkownikowi, rozmyć albo wyświetlić ostrzeżenie.

Pojawia się jednak ważne pytanie: co stanie się z tą technologią, gdy zacznie korzystać z niej znacznie więcej aplikacji?

Największe obawy dotyczą nie samego skanowania

Sama możliwość sklasyfikowania obrazu nie daje aplikacji automatycznego dostępu do wszystkich zdjęć zapisanych w telefonie. Złośliwy program nadal potrzebowałby odpowiednich uprawnień lub innej metody uzyskania dostępu do plików.

Ryzyko może pojawić się w połączeniu kilku mechanizmów. Jeżeli aplikacja otrzyma dostęp do dużej liczby zdjęć, a następnie będzie mogła wykorzystać lokalny system klasyfikacji, może otrzymać szybki sposób na automatyczne kategoryzowanie prywatnych materiałów.

Taki mechanizm sam w sobie nie wysyła zdjęć do twórcy aplikacji. Może jednak dostarczać aplikacji informacji o charakterze analizowanych treści. W przypadku nieuczciwego oprogramowania potencjalnie otwiera to drogę do tworzenia profili użytkowników na podstawie zawartości ich urządzeń.

Badacze bezpieczeństwa zwracają uwagę właśnie na tę granicę. Lokalna analiza jest korzystniejsza dla prywatności niż przesyłanie zdjęć do zewnętrznego serwera, ale nie rozwiązuje wszystkich problemów związanych z tym, kto może uruchamiać klasyfikację i w jakim celu.

SafetyCore nadal ma dostęp do określonych funkcji systemu

Według informacji dostępnych w Google Play Android System SafetyCore korzysta z kilku uprawnień związanych z funkcjonowaniem systemu. Obejmują one między innymi dostęp do informacji o połączeniu sieciowym, pełny dostęp do sieci, uruchamianie wraz ze startem urządzenia, możliwość zapobiegania uśpieniu oraz odczytywanie konfiguracji usług Google.

Jednocześnie deklaracja bezpieczeństwa aplikacji w Google Play wskazuje, że dane nie są gromadzone ani udostępniane innym podmiotom.

To ważne rozróżnienie. SafetyCore może działać jako systemowa usługa analizująca treści lokalnie, a jednocześnie jego obecność na urządzeniu może być dla użytkownika mało widoczna. Właśnie brak przejrzystości od początku był jednym z głównych powodów krytyki.

Według danych Google Play aplikacja została zainstalowana już ponad miliard razy (w większości nieświadomie) i zebrała niemal 240 tys. ocen ze średnią wynoszącą 3,6 gwiazdki.

Android zmierza w stronę wspólnej warstwy bezpieczeństwa

Najciekawsza część tej historii dotyczy przyszłości ContentSafetyManager. Google nie ogranicza bowiem technologii wyłącznie do Wiadomości Google. Publiczne API sugeruje, że podobny mechanizm może stać się narzędziem wykorzystywanym przez znacznie większą liczbę aplikacji.

Nie wiadomo jeszcze, jak szeroko zostanie ono wdrożone i jakie ograniczenia otrzymają deweloperzy. Dokumentacja znajduje się na etapie rozwojowym, a obecny numer API 10000 pełni funkcję oznaczenia wersji eksperymentalnej.

Google nie udostępniło również jasnej informacji potwierdzającej, że ContentSafetyManager jest bezpośrednim interfejsem do SafetyCore. Obie technologie są jednak powiązane z tym samym pomysłem: wykorzystaniem lokalnego mechanizmu Androida do automatycznej oceny treści.

To właśnie ten element może mieć największe znaczenie dla użytkowników. Jeśli system pozostanie ograniczony do konkretnych zastosowań, będzie przede wszystkim kolejnym narzędziem ochrony przed niechcianymi materiałami. Jeżeli natomiast dostęp do klasyfikacji stanie się powszechny, Android może zyskać wspólną infrastrukturę analizy multimediów wykorzystywaną przez wiele niezależnych aplikacji.

Dla Google oznacza to rozwój zabezpieczeń działających bez wysyłania prywatnych zdjęć do chmury. Dla użytkowników pozostaje natomiast pytanie o przejrzystość: kiedy telefon analizuje treść, dlaczego to robi i która aplikacja może poprosić Androida o taką analizę.