Copilot się sypie. Microsoft bije się w pierś

Microsoft poinformował o błędzie w usłudze Microsoft 365 Copilot, który powodował nieprawidłowe przetwarzanie części wiadomości e-mail. Problem został wykryty 21 stycznia i dotyczył funkcji czatu w zakładce „work”.

Microsoft 365 Copilot oferuje Asystenta AI, który podsumowuje wiadomości w folderach Wysłane oraz Wersje robocze. Problem jednak w tym, iż narzędzie robiło to też z wiadomościami oznaczonymi jako poufne, mimo że były włączona ochrona przed utratą danych. Takie mechanizmy mają zapobiegać nieautoryzowanemu dostępowi do wrażliwych informacji oraz ograniczać ich dalsze przetwarzanie. W konsekwencji mogło dojść nawet do wycieku e-maili.

Ominięcie zabezpieczeń

W praktyce oznaczało to, iż Copilot mógł analizować i streszczać wiadomości, które posiadały etykiety wrażliwości ustawione właśnie po to, by ograniczyć dostęp automatycznych narzędzi. Według Microsoftu przyczyną był błąd w kodzie.

Microsoft poinformował o błędzie w usłudze Microsoft 365 Copilot, który powodował nieprawidłowe przetwarzanie części wiadomości e-mail.

Firma wyjaśniła, że problem sprawiał, iż elementy z folderów Wysłane oraz Wersje robocze były pobierane przez Copilota mimo aktywnych oznaczeń poufności. Nie podano jednak, jak wiele organizacji zostało dotkniętych ani jak szeroki był zakres problemu.

Trwa wdrażanie poprawki

Microsoft poinformował, że prace nad usunięciem usterki rozpoczęły się na początku lutego. Poprawka jest stopniowo wdrażana. Firma w niektórych przypadkach kontaktuje się też bezpośrednio z wybranymi użytkownikami, aby upewnić się, że rozwiązanie działa prawidłowo.

Na razie nie podano dokładnej daty zakończenia prac. Zdarzenie zostało oznaczone jako komunikat doradczy, co zwykle oznacza ograniczony zakres lub wpływ na użytkowników.

Mimo to sytuacja pokazuje, jak istotne w środowisku firmowym są poprawnie działające mechanizmy ochrony danych, zwłaszcza gdy w grę wchodzą narzędzia oparte na sztucznej inteligencji.