Apple Intelligence notorycznie kłamie. Uważajcie na nagłówki wiadomości

Generatywna sztuczna inteligencja, choć obiecuje rewolucję w wielu dziedzinach życia, po raz kolejny pokazuje, że jej wykorzystanie w delikatnych kwestiach wymaga szczególnej ostrożności.

Tym razem problem dotyczy Apple Intelligence, systemu AI firmy Apple, który stworzył fałszywy nagłówek, twierdząc, że Luigi Mangione, mężczyzna podejrzany o zabójstwo dyrektora generalnego UnitedHealthcare Briana Thompsona, popełnił samobójstwo. W rzeczywistości Mangione nadal przebywa w areszcie policyjnym, a fałszywa informacja doprowadziła do tego, że BBC zmuszone było interweniować u Apple w celu naprawienia tego błędu.

Błędy Apple Intelligence i innych generatywnych systemów wskazują na szerszy problem: brak pełnej niezawodności AI w zarządzaniu informacją.

Błędne nagłówki na ekranie blokady

Apple Intelligence zostało wprowadzone jako nowoczesne narzędzie, które ma pomóc użytkownikom w przeglądaniu informacji na ekranie blokady. Jedną z jego funkcji jest generowanie streszczeń powiadomień, które z założenia mają upraszczać przekaz, prezentując kluczowe informacje w zwięzłej formie. Funkcja ta, debiutująca w systemie iOS 18.1, miała być odpowiedzią na rosnące potrzeby użytkowników, którzy chcą szybko przyswajać duże ilości danych, na przykład podczas aktywnych czatów grupowych czy w natłoku informacji z mediów. Jednak, jak pokazuje najnowszy przypadek, technologia ta nie jest wolna od poważnych błędów. W podsumowaniu powiadomień BBC, obok poprawnych informacji o Syrii i prezydencie Korei Południowej Yoon Suk Yeolu, pojawił się fałszywy nagłówek o rzekomym samobójstwie Mangione. BBC, które dba o swoją reputację jako najbardziej zaufanego medium informacyjnego na świecie, stanowczo zareagowało na tę wpadkę. – „Dla nas niezwykle ważne jest, aby nasi odbiorcy mogli ufać wszelkim informacjom lub artykułom dziennikarskim publikowanym w naszym imieniu, w tym powiadomieniom” – powiedział rzecznik BBC, domagając się natychmiastowego skorygowania błędu.

Historia powtarzających się wpadek

To nie pierwszy raz, kiedy Apple Intelligence znalazło się w ogniu krytyki za błędne podsumowania. W czerwcu system przypisał Międzynarodowemu Trybunałowi Karnemu wydanie nakazu aresztowania izraelskiego premiera Benjamina Netanjahu, co również okazało się nieprawdą. Inne kuriozalne przypadki obejmują podsumowanie powiadomienia o podwyżce, która została błędnie opisana jako „próba samobójcza”, czy też informację o „spodziewanym uderzeniu Słońca w Ziemię”, które rzekomo miało opóźnić pociągi Amtrak w pobliżu Baltimore. Zalew historii o błędach AI, jakie ostatnio trafiły na platformę X, pokazuje, że generatywne systemy nadal wymagają ścisłego nadzoru człowieka. Eksperci podkreślają, że technologia ta wciąż ma problemy z rozumieniem kontekstu i znaczenia przekazywanych treści. Jeden z najbardziej wymownych przykładów pochodzi z października, kiedy nowojorski programista otrzymał od Apple Intelligence powiadomienie z okazji swoich urodzin, które brzmiało: „Nie jestem już w związku; chce rzeczy z mieszkania”.