Uważaj co piszesz, AI będzie czytać rozmowy na Messengerze. Podobno dla bezpieczeństwa

Koncern technologiczny Meta rozpoczął wdrażanie nowych narzędzi opartych na sztucznej inteligencji w swoich platformach społecznościowych. Rozwiązania mają ograniczyć liczbę oszustw pojawiających się w serwisach Facebook oraz Messenger.

Firma rozwija systemy wykrywające podejrzane zachowania użytkowników oraz analizujące rozmowy prowadzone w komunikatorze. Wraz z rozwojem generatywnej sztucznej inteligencji cyberprzestępcy coraz częściej wykorzystują technologię do tworzenia wiarygodnych wiadomości i fałszywych ofert. Platformy społecznościowe pozostają jednym z głównych miejsc, w których użytkownicy stykają się z próbami wyłudzeń finansowych.

Meta liczy na to, że połączenie systemów sztucznej inteligencji, weryfikacji reklamodawców oraz współpracy z organami ścigania ograniczy liczbę przypadków wyłudzeń finansowych.

Ostrzeżenia przy podejrzanych zaproszeniach do znajomych

Jedną z nowych funkcji jest system ostrzegania przed podejrzanymi zaproszeniami do znajomych na Facebooku. Platforma analizuje podstawowe sygnały dotyczące konta wysyłającego zaproszenie.

Jeżeli system wykryje potencjalne nieprawidłowości, użytkownik zobaczy ostrzeżenie przed zaakceptowaniem zaproszenia lub wysłaniem własnej prośby o kontakt. Mechanizmy analizują między innymi brak wspólnych znajomych oraz niespójne informacje dotyczące lokalizacji konta. Według przedstawicieli firmy narzędzie ma pomóc użytkownikom rozpoznać fałszywe profile wykorzystywane przez oszustów.

Messenger analizuje podejrzane rozmowy

Aktualizacja obejmuje również komunikator Messenger. System wykrywania oszustw zostaje rozszerzony na kolejne rynki i analizuje rozmowy z nowymi kontaktami. W przypadku pojawienia się podejrzanych sygnałów aplikacja oznacza rozmowę i informuje użytkownika o potencjalnym zagrożeniu. Sytuacje objęte analizą obejmują między innymi niechciane oferty pracy oraz próby nakłaniania do przekazania pieniędzy.

Użytkownik może zdecydować o uruchomieniu analizy rozmowy przez system sztucznej inteligencji. W przypadku wykrycia podejrzanej aktywności aplikacja wyświetla dodatkowe informacje dotyczące charakteru oszustwa oraz umożliwia natychmiastowe zablokowanie lub zgłoszenie konta.

Kontrola reklam i weryfikacja reklamodawców

Meta wprowadza również zmiany w obszarze reklam publikowanych na swoich platformach. Firma rozszerza program weryfikacji reklamodawców. Celem jest zwiększenie udziału zweryfikowanych podmiotów w przychodach reklamowych. Według planów koncernu do końca 2026 roku zweryfikowani reklamodawcy mają odpowiadać za około 90 procent przychodów reklamowych firmy. Obecnie udział ten wynosi około 70 procent. Działanie ma ograniczyć możliwość publikowania fałszywych reklam przez przestępców działających w internecie.

Współpraca z organami ścigania

Meta rozwija także działania poza własnymi platformami. Firma współpracuje z organami ścigania w różnych krajach w celu identyfikowania i likwidowania sieci oszustw internetowych. W ramach wspólnej operacji z FBI, Depratamentem Sprawiedliwości USA oraz Tajską Królewską Policją zablokowano ponad 150 tysięcy kont powiązanych z centrami zajmującymi się oszustwami. Śledczy doprowadzili również do zatrzymania 21 osób związanych z działalnością przestępczą.

Miliony usuniętych reklam i kont

Według danych opublikowanych przez Meta w ciągu ostatniego roku firma usunęła ponad 159 milionów fałszywych reklam. Większość z nich została wykryta przez systemy automatyczne jeszcze przed zgłoszeniem przez użytkowników. W tym samym okresie platformy usunęły także około 10,9 miliona kont na Facebooku i Instagram powiązanych z grupami zajmującymi się oszustwami. Skala działań pokazuje, jak duży jest problem cyberprzestępczości w środowisku mediów społecznościowych.