Zaufali Google Gemini podczas wyprawy na szczyt. Skończyło się akcją ratunkową

Trzech młodych turystów wyruszających na Mount Shasta w Kalifornii wykorzystało chatbota Google Gemini do planowania swojej wyprawy. Myśleli, że model językowy wystarczy, by zastąpić przewodnika.

Start ich wspinaczki miał miejsce o trzeciej nad ranem. Lokalne służby wyznaczają granicę bezpieczeństwa i zalecany odwrót przy zdobywaniu tego szczytu po godzinie dwunastej. Turyści nie zawrócili jednak mimo przekroczenia zalecanego czasu wejścia.

Dotarli na szczyt dopiero o godzinie dziewiętnastej, czyli zaliczyli kilkanaście godzin marszu zamiast planowanej ośmiogodzinnej wyprawy. A potem „zaskoczenie” - musieli zchodzić po zmroku.

Posłuchali AI i ruszyli na górę

Oczywiście pojawiły się problemy z orientacją podczas schodzenia z góry. Turyści noc spędzili na górze, a akcja ratunkowa rozpoczęta następnego dnia. Bezpieczne uratowano całą trójkę.

Władze informują teraz o radach udzielonych turystom przez Google Gemini przed wyprawą. Zaufali oni chatbotowi i mieli zbyt małe zapasy jedzenia i wody dla całej grupy. Błędne założyli też czas trwania wyprawy.

Traktowanie AI jako eksperta po prostu nie działa. Trzeba o tym pamiętać, zwłaszcza gdy ryzykuje się swoim życiem. To powinno być oczywiste dla każdego, ale w obecnym czasie pytania o wszystko łatwo dostępnych agentów, takie sytuacje będą się pewnie powtarzać.