Kompletna porażka systemu Zuckerberga. Nowy asystent od Meta ujawnia poufne informacje

Meta Muse, asystent AI rozwijany przez firmę Marka Zuckerberga naraża użytkowników na ujawnienie poufnych informacji. Badacze bezpieczeństwa odkryli, że publiczne linki do udostępnionych rozmów można wyszukiwać bez znajomości ich adresów.

W ten sposób odnaleźli tysiące stron zawierających między innymi dane finansowe, informacje biznesowe i prywatne notatki. O problemie poinformowali badacze z firmy Claroc - udało im się zidentyfikować około 6800 linków utworzonych przez użytkowników Meta Muse. Po przeanalizowaniu kilkuset stron znaleźli informacje, które nie powinny trafiać do przypadkowych osób.

Bezpieczeństwo narzędzi AI zależy nie tylko od jakości generowanych odpowiedzi, lecz także od sposobu przechowywania i udostępniania danych

Problem dotyczy mechanizmu udostępniania rozmów. Podobnie jak w wielu innych usługach internetowych, użytkownik może wygenerować link, który pozwala innej osobie otworzyć wybraną konwersację. Takie rozwiązanie jest wygodne, ale wymaga odpowiedniego zabezpieczenia adresów, aby osoby postronne nie mogły ich łatwo odnaleźć.

Jedno wyszukiwanie wystarczyło, by znaleźć poufne dane

W przypadku Muse problemem okazał się sposób konstruowania adresów URL. Zawierają one nie tylko długi ciąg znaków, lecz także tytuł udostępnionej rozmowy. Wszystkie takie strony korzystają z domeny cf.metaaiusercontent.com.

Badacze wykorzystali technikę określaną jako passive DNS. Polega ona na analizowaniu historycznych zapisów dotyczących zapytań systemu DNS, które mogą być gromadzone przez specjalistyczne usługi. Gdy ktoś otwiera udostępniony link, związane z nim informacje mogą trafić do takich baz. Pozwala to odnajdywać adresy bez otrzymania ich bezpośrednio od właściciela rozmowy. Claroc wśród znalezionych treści wyczytał między innymi:

• wewnętrzną analizę przychodów firmy przygotowana dla prezesa;

• dokumenty dotyczące wniosku o pożyczkę dla małego przedsiębiorstwa;

• notatki związane z poufną rozmową rekrutacyjną;

• informacje o podejrzanej transakcji bankowej, w tym fragment numeru rachunku;

• raport inwestora nieruchomości zawierający adresy i szczegółowe dane finansowe;

• kalendarz urlopów pracowników obejmujący cały rok.

Kolejny problem z bezpieczeństwem asystenta AI

To nie pierwszy zgłoszony problem z Muse. Kilka tygodni po premierze ekspert ds. bezpieczeństwa systemu macOS, Patrick Wardle, opisał lukę typu zero-day, która mogła pozwolić innej aplikacji działającej na tym samym urządzeniu przejąć kontrolę nad kontem asystenta. Meta kwestionowała skalę zagrożenia, wskazując, że urządzenie musiałoby być wcześniej naruszone.

Użytkownik może wygenerować link, który pozwala innej osobie otworzyć wybraną konwersację.

Osoby korzystające z Muse powinny uważać na treści, które przekazują asystentowi, szczególnie jeśli dotyczą finansów, pracy lub innych poufnych spraw. To przypadek, który pokazuje, że bezpieczeństwo narzędzi AI zależy nie tylko od jakości generowanych odpowiedzi, lecz także od sposobu przechowywania i udostępniania danych. Podobne ryzyko może wystąpić w innych usługach oferujących publiczne linki do rozmów. Jeżeli asystent ma dostęp do firmowych dokumentów, poczty czy informacji finansowych niewielki błąd projektowy może mieć poważne konsekwencje. To przy okazji kolejna duża wpadka w ekosystemie tworzonym przez Zuckerberga.