Apple nie wyrabia z raportami od AI. Wprowadzono limity dla badaczy bezpieczeństwa

Sztuczna inteligencja miała pomóc ekspertom od cyberbezpieczeństwa szybciej znajdować luki, jednak w przypadku Apple przyniosła również nieoczekiwany problem. Firma została zalana zgłoszeniami dotyczącymi błędów wykrytych przy pomocy AI, a część raportów okazała się na tyle słaba, że zamiast pomagać inżynierom, zaczęła obciążać cały proces obsługi podatności.

Apple zdecydowało się więc na rozwiązanie, które jeszcze niedawno mogłoby wydawać się absurdalne. Badacze bezpieczeństwa nie mogą już bez ograniczeń wysyłać kolejnych raportów przez wewnętrzny portal firmy. Wprowadzono limit zgłoszeń oraz 30-dniowy okres oczekiwania dla osób, które go przekroczą.

Nie chodzi jednak o całkowite zamknięcie drzwi przed badaczami wykorzystującymi AI. Apple próbuje przede wszystkim odseparować wartościowe odkrycia od masowej produkcji raportów o niewielkiej wartości.

AI zaczęła produkować zbyt wiele raportów

Apple wprowadziło ograniczenia w czerwcu. Firma uzasadnia tę decyzję gwałtownym wzrostem liczby zgłoszeń przygotowywanych przy wykorzystaniu narzędzi sztucznej inteligencji. Problem nie polega na tym, że AI nie potrafi znaleźć prawdziwych luk. Wręcz przeciwnie. Modele językowe i narzędzia przeznaczone do analizy kodu mogą pomagać badaczom w przeszukiwaniu ogromnych ilości danych, analizowaniu zachowania aplikacji oraz szukaniu potencjalnych ścieżek ataku.

Kłopot pojawia się wtedy, gdy koszt wygenerowania kolejnego raportu spada niemal do zera. Badacz może przekazać narzędziu AI ogromną bazę kodu, poprosić o znalezienie podatności, a następnie przesłać wyniki do producenta.

Jeżeli każdy taki raport trafia później do człowieka, firma musi poświęcić czas na sprawdzenie zgłoszenia. Nawet wtedy, gdy ostatecznie okaże się ono błędne albo mało istotne.

Przy odpowiednio dużej skali sztuczna inteligencja może więc stworzyć paradoksalną sytuację. Technologia, która miała przyspieszać wykrywanie luk, zaczyna spowalniać zespoły odpowiedzialne za ich analizę.

Apple zdecydowało się wprowadzić limit i 30-dniowy okres karencji dla zgłoszeń o lukach w zabezpieczeniach przesyłanych za pośrednictwem wewnętrznego portalu bezpieczeństwa. 

Apple ogranicza liczbę zgłoszeń

Nowe zasady przewidują limit liczby raportów wysyłanych za pośrednictwem portalu bezpieczeństwa Apple. Po jego przekroczeniu badacz musi odczekać 30 dni przed ponownym składaniem kolejnych zgłoszeń.

Firma nie zamierza jednak traktować wszystkich badaczy identycznie. Osoby prowadzące wartościowe badania mogą zwrócić się do Apple o zwiększenie limitu.

To istotny element całego rozwiązania. Producent nie chce blokować profesjonalnych zespołów, które rzeczywiście odkrywają poważne problemy. Chodzi raczej o ograniczenie sytuacji, w których automatyczne narzędzia produkują dziesiątki lub setki raportów wymagających ręcznej weryfikacji.

Apple wykorzystuje przy tym również własne narzędzia AI do wstępnej selekcji napływających zgłoszeń. System ma pomóc zespołom bezpieczeństwa szybciej ocenić, które raporty wymagają uwagi człowieka.

Jedna firma pokazała, że AI potrafi znaleźć bardzo poważną lukę

Historia nie jest jednak tak prosta, jak mogłoby wynikać z samego ograniczenia liczby raportów. Wśród zgłoszeń generowanych przy pomocy AI znajdują się również odkrycia, których nie można zignorować.

„Financial Times” opisał przypadek włoskiego startupu cyberbezpieczeństwa Bynario. Firma wykorzystuje ChatGPT do poszukiwania podatności i podczas swoich analiz miała znaleźć łańcuch exploitów pozwalający na eskalację uprawnień w systemie macOS.

W praktyce taki scenariusz może prowadzić do uzyskania przez atakującego znacznie większych uprawnień, a w skrajnym przypadku do przejęcia kontroli nad komputerem.

Bynario próbowało przekazać Apple informacje o odkryciu, ale wcześniej wykorzystało dostępny limit zgłoszeń. Firma przesłała w ciągu zaledwie trzech tygodni ponad 50 raportów dotyczących luk w macOS.

Apple jest obecnie w kontakcie z Bynario, aby przeanalizować zgłoszenia i ustalić szczegóły dotyczące najbardziej poważnego odkrycia.

Wysokiej klasy luka może być warta fortunę

Stawka takich odkryć jest ogromna. Według Bynario exploit umożliwiający eskalację uprawnień może mieć wartość przekraczającą 100 tys. dolarów na czarnym rynku.

Legalny rynek podatności również potrafi oferować bardzo wysokie wynagrodzenia. Apple w ramach swojego programu bezpieczeństwa może zapłacić nawet 5 mln dolarów za informacje dotyczące szczególnie poważnych zagrożeń.

Powstaje więc trudny problem do rozwiązania. Firma musi umożliwić ekspertom szybkie zgłaszanie naprawdę niebezpiecznych podatności, ale jednocześnie nie może pozwolić, aby system został zalany raportami generowanymi masowo przez automatyczne narzędzia.

Wprowadzenie limitu jest próbą znalezienia kompromisu między tymi dwoma potrzebami.

AI zmienia również ekonomię bug bounty

Apple nie jest jedyną firmą, która musi dostosować program bezpieczeństwa do nowych możliwości sztucznej inteligencji. Jeszcze kilka lat temu stworzenie dużej liczby raportów wymagało pracy wielu badaczy. Dzisiaj część analizy można zautomatyzować. To radykalnie zmienia koszt prowadzenia poszukiwań podatności.

Dla producenta oznacza to większą liczbę potencjalnych odkryć, ale także większy koszt ich weryfikowania. Dla badaczy AI staje się natomiast narzędziem pozwalającym przeszukiwać kod znacznie szybciej. GitHub również zmienił strukturę swoich programów wynagradzania. Firma ograniczyła atrakcyjność nagród za błędy o niskiej i średniej wadze, dostosowując system do rosnącej liczby zgłoszeń.

To dopiero początek większej zmiany w świecie programów bug bounty. Wraz z rozwojem modeli AI coraz trudniej będzie utrzymywać system, w którym każde zgłoszenie traktowane jest identycznie.

Największe wyzwanie dopiero przed Apple

Problem Apple nie sprowadza się więc do pytania, czy sztuczna inteligencja jest dobra, czy zła dla cyberbezpieczeństwa. Jest znacznie bardziej praktyczny. Jeżeli AI pozwala znaleźć dziesięć razy więcej potencjalnych luk, producent musi również dysponować mechanizmem pozwalającym dziesięć razy szybciej je oceniać. W przeciwnym razie wąskim gardłem przestaje być samo wyszukiwanie podatności, a staje się nim człowiek siedzący po drugiej stronie systemu zgłoszeń.

Apple próbuje rozwiązać ten problem jednocześnie na kilku poziomach. Limit ma ograniczyć liczbę raportów, możliwość jego zwiększenia ma chronić profesjonalnych badaczy, a wewnętrzne narzędzia AI mają przyspieszyć selekcję zgłoszeń.

Najbardziej interesujące jest jednak to, że firma nie zdecydowała się całkowicie odrzucić raportów powstających przy pomocy sztucznej inteligencji. Trudno byłoby zresztą uzasadnić taki ruch, skoro ta sama technologia może prowadzić do odkrycia luk o potencjalnie ogromnym znaczeniu.

Badacze będą musieli dostarczać lepsze raporty

Nowa sytuacja może również zmienić sposób pracy ekspertów bezpieczeństwa. Sam fakt znalezienia potencjalnej podatności przez AI przestaje być szczególnie imponujący. Znacznie ważniejsze staje się udowodnienie, że problem rzeczywiście istnieje, przygotowanie powtarzalnego scenariusza ataku oraz przedstawienie Apple informacji pozwalających szybko odtworzyć błąd.

W praktyce przewagę mogą zyskać zespoły, które wykorzystują AI jako narzędzie badawcze, ale nie traktują wygenerowanego przez model wyniku jako gotowego raportu.

To ważna różnica. Sztuczna inteligencja może przeszukiwać kod, generować hipotezy i wskazywać potencjalne ścieżki ataku. Ostateczna ocena nadal wymaga jednak wiedzy eksperta.

Apple właśnie próbuje dostosować swój system do takiej rzeczywistości. Firma nie zamyka programu przed badaczami korzystającymi z AI, ale daje wyraźny sygnał, że masowe przesyłanie niezweryfikowanych zgłoszeń nie będzie traktowane na równi z profesjonalnym odkryciem.