AI oszukała AI i ukradła konta na Instagramie warte miliony

Użytkownicy Instagrama przeżyli w weekend prawdziwy koszmar. W sieci pojawiły się doniesienia o serii błyskawicznych przejęć cennych kont, w tym profili zabezpieczonych uwierzytelnianiem dwuskładnikowym i dodatkowymi mechanizmami ochrony. Według relacji poszkodowanych atakujący wykorzystali systemy odzyskiwania kont wspierane przez sztuczną inteligencję, a cały proces miał trwać zaledwie kilka minut.

Tym razem celem nie były zwykłe profile. Hakerzy polowali na tak zwane konta „OG”, czyli rzadkie, krótkie i wyjątkowo pożądane nazwy użytkowników, które na nielegalnych rynkach potrafią osiągać wartość liczonych w setkach tysięcy dolarów.

Konta znikały na oczach właścicieli

W mediach społecznościowych zaczęły pojawiać się relacje użytkowników, którzy obserwowali przejmowanie swoich profili w czasie rzeczywistym. Właściciele opisywali sytuacje, w których byli nagle wylogowywani z aplikacji, otrzymywali powiadomienia o zmianie hasła, a chwilę później tracili pełną kontrolę nad kontem.

Część przejętych profili należała do znanych osób, badaczy bezpieczeństwa oraz właścicieli bardzo wartościowych nazw użytkowników. Wśród poszkodowanych znalazła się między innymi znana analityczk bezpieczeństwa Jane Manchun Wong. Doniesienia mówiły również o przejęciu kont powiązanych z amerykańskimi instytucjami publicznymi.

Według relacji użytkowników skradzione profile niemal natychmiast trafiały na sprzedaż w kanałach Telegrama zajmujących się handlem kontami społecznościowymi.

Sztuczna inteligencja przeciwko sztucznej inteligencji

Najbardziej niepokojący element całej historii dotyczy sposobu działania atakujących. Według ekspertów wykorzystali oni proces odzyskiwania konta oferowany przez Meta oraz możliwości nowoczesnych generatorów obrazu i wideo opartych na sztucznej inteligencji. Napastnicy mieli pobierać publicznie dostępne zdjęcia właścicieli kont, a następnie wykorzystywać narzędzia AI do tworzenia realistycznych filmów selfie. Tak przygotowane materiały trafiały do automatycznych systemów weryfikacji tożsamości.

Atakujący wykorzystali wygenerowane przez sztuczną inteligencję filmy typu selfie, stworzone na podstawie publicznych zdjęć zamieszczonych na Instagramie.

Jeżeli algorytm uznawał przesłane nagranie za autentyczne, uruchamiał procedurę odzyskiwania dostępu do konta. Następnie atakujący zmieniali adres e-mail przypisany do profilu oraz inicjowali reset hasła. Od tego momentu konto przechodziło pod ich pełną kontrolę.

Eksperci podkreślają, że mamy do czynienia z nowym rodzajem zagrożenia, w którym system oparty na sztucznej inteligencji został oszukany przez inne narzędzie wykorzystujące sztuczną inteligencję.

Dwuskładnikowe uwierzytelnianie nie wystarczyło

Jednym z najbardziej alarmujących aspektów incydentu jest fakt, że część przejętych kont była chroniona uwierzytelnianiem dwuskładnikowym. Przez lata mechanizm 2FA uchodził za jeden z najskuteczniejszych sposobów zabezpieczania dostępu do usług internetowych. W tym przypadku atak nie polegał jednak na złamaniu kodów uwierzytelniających ani przejęciu urządzenia ofiary. Hakerzy wykorzystali proces odzyskiwania konta, który pozwala ominąć standardową ścieżkę logowania.

To właśnie ten element sprawił, że wielu użytkowników poczuło się szczególnie bezradnych. Nawet osoby stosujące dodatkowe zabezpieczenia mogły stracić dostęp do swoich profili.

Największy problem pojawił się po włamaniu

Gdy Meta zaczęła analizować zgłoszenia, wielu użytkowników próbowało odzyskać swoje konta. Wtedy pojawił się kolejny problem. Poszkodowani opisują, że trafiali do całkowicie zautomatyzowanego systemu wsparcia technicznego. Zamiast kontaktu z pracownikiem firmy otrzymywali odpowiedzi generowane przez chatboty oraz automatyczne formularze.

Według relacji użytkowników proces odzyskiwania dostępu był niezwykle frustrujący. Wielu z nich przez długi czas nie mogło znaleźć sposobu na rozmowę z człowiekiem, mimo że utracone profile miały ogromną wartość finansową lub wizerunkową. To właśnie ten aspekt wywołał szczególnie ostrą krytykę. Eksperci zwracają uwagę, że automatyzacja procesów bezpieczeństwa może przyspieszać obsługę milionów użytkowników, ale w sytuacjach kryzysowych brak ludzkiej interwencji staje się poważnym problemem.

„Odzyskanie zablokowanego konta – zwłaszcza tego o dużej wartości – może zająć tygodnie i wymagać ciągłego kontaktu z automatycznym systemem zgłoszeń. Rozwiązaniem Meta było wdrożenie konwersacyjnej warstwy sztucznej inteligencji do obsługi typowych procesów odzyskiwania: ponownego łączenia utraconego adresu e-mail, resetowania hasła i weryfikacji własności konta” 

Meta przyznaje, że problem istniał

Po nagłośnieniu sprawy Meta potwierdziła występowanie problemu i poinformowała o wdrożeniu poprawek. Firma przekazała, że luka umożliwiała generowanie nieautoryzowanych próśb o reset hasła dla części użytkowników Instagrama. Jednocześnie podkreślono, że nie doszło do naruszenia infrastruktury firmy ani masowego wycieku danych.

Specjaliści ds. cyberbezpieczeństwa określają ten scenariusz mianem ataku typu „confused deputy”, czyli sytuacji, w której zaufany system zostaje nakłoniony do wykonania działań na rzecz atakującego. W tym przypadku rolę „zaufanego pomocnika” pełnił system odzyskiwania kont Meta. Nie został on bezpośrednio złamany. Został przekonany do podjęcia błędnej decyzji na podstawie danych przygotowanych przez przestępców.

To pokazuje, że wraz z rozwojem sztucznej inteligencji zmieniają się również metody stosowane przez cyberprzestępców. Coraz częściej nie próbują oni włamywać się do systemów tradycyjnymi metodami. Zamiast tego wykorzystują algorytmy do manipulowania innymi algorytmami.