"AI" od Google namawia do samobójstwa, jako lekarstwa na depresję. Sugeruje też jedzenie kamieni

Na początku tego roku Google zadebiutowało z tak zwanym „Search Generative Experience” (SGE), czyli podsumowaniem wyników typowego wyszukiwania Google generowanym przez "sztuczną inteligencję".

Pomysł, według Google, miał na celu uniemożliwienie użytkownikom samodzielnego „składania informacji”; zamiast klikać w serię postów na forach, artykułów czy postów w mediach społecznościowych, użytkownicy mogą przeczytać krótkie podsumowanie u góry strony. Jednak ostatni tydzień pokazał, że użytkownicy najbardziej popularnej wyszukiwarki na świecie mają teraz jeszcze większe problemy z dotarciem do wartościowych informacji, niż kiedykolwiek wcześniej. W odpowiedzi na proste pytania sztuczna inteligencja Google doradzała m.in. jedzenie kamieni w czasie ciąży, przyklejanie sera do pizzy oraz palenie papierosów.

Tzw. sztuczna inteligencja od Google miała pomóc w szybkim dotarciu do szukanych treści, jednak w chwili obecnej system podpowiada samobójstwo przy depresji, jedzenie kamieni, palenie w ciąży, patrzenie na Słońce, jako nieszkodliwe dla oczu i ogólnie szerzy niebezpieczną dezinformację. 

Kris Kashtanova, samozwańcza „ewangelistka sztucznej inteligencji” w Adobe, podzieliła się w czwartek na platformie X informacją, że przetestowała SGE, wyszukując: „Ile kamieni mam zjeść?” Google, cytując artykuł z satyrycznego portalu The Onion (który, o dziwo, został ponownie opublikowany na stronie związanej z oprogramowaniem symulacyjnym dla przemysłu naftowego i gazowego), podsumował: „Według geologów z Uniwersytetu Kalifornijskiego w Berkeley należy zjeść przynajmniej jeden mały kamień dziennie.” W briefingu SGE wyjaśniono, że skały są „istotnym źródłem” minerałów i witamin, a jeśli użytkownikom trudno jest zjeść „porcję żwiru, geod lub kamyków” do każdego posiłku, powinni spróbować ukryć kamienie w lodach lub maśle orzechowym. Ben Collins, nowy dyrektor generalny The Onion, poinformował na platformie Bluesky, że SGE cytowało również inny post Onion, który twierdził, że CIA lubi używać czarnych zakreślaczy w swoich dokumentach. Krążący w mediach społecznościowych zrzut ekranu wydaje się także zalecać palenie od dwóch do trzech papierosów dziennie w czasie ciąży. W odpowiedzi na pytanie, jak zapobiec zsuwaniu się sera z pizzy, jeden z użytkowników X otrzymał radę, aby dodać nietoksyczny klej do sosu, aby „nadać mu większą kleistość”. SGE wyciągnęło tę radę z żartobliwego komentarza na Reddicie.

Po kilku dniach krytyki w mediach społecznościowych Google stanęło w obronie SGE. „Przykłady, które widzieliśmy, to na ogół bardzo rzadkie zapytania i nie odzwierciedlają doświadczeń większości ludzi” – powiedział rzecznik Google. „Zdecydowana większość wyników generowanych przez AI zapewnia wysokiej jakości informacje wraz z linkami umożliwiającymi głębsze przeglądanie sieci. W przypadku naruszeń naszych zasad podejmowaliśmy działania — a także korzystamy z tych pojedynczych przykładów, aby stale udoskonalać nasze systemy”.

Nie wszystkie błędy SGE są jednak zabawne jak te opisane powyżej. W bardziej subtelnych przypadkach reakcje systemu mogą być trudne do odróżnienia od prawdy, co przyczynia się do szerzenia dezinformacji. Melanie Mitchell, profesor uczenia maszynowego w Instytucie Santa Fe, poinformowała w czwartek, że SGE błędnie odpowiedziało na pytanie: „Ilu muzułmańskich prezydentów miały Stany Zjednoczone?” odpowiedzią: „Stany Zjednoczone miały jednego muzułmańskiego prezydenta, Baracka Husseina Obamę.” (Prezydent Obama jest chrześcijaninem). SGE również stwierdziło, że wpatrywanie się w Słońce przez 5 do 15 minut jest „ogólnie bezpieczne” i przynosi liczne korzyści zdrowotne, co może prowadzić do poważnych uszkodzeń oczu.

Dawniej Google zachęcało użytkowników do weryfikowania informacji dotyczących sztucznej inteligencji za pomocą szybkiego wyszukiwania w Google. Jak na ironię, obecnie działa to tylko wtedy, gdy użytkownicy klikają wyniki, aby porównać informacje z oryginalnymi źródłami – jest to dokładnie praktyka, od której Google stara się odciągnąć użytkowników.