Gemini znało nazwę postaci z prywatnego dokumentu Google. Twórca gry nie wie, skąd AI ją wzięła

Twórca niezależnej gry twierdzi, że Gemini podał prawidłową nazwę nieujawnionej jeszcze postaci. Problem w tym, że według dewelopera jej pełna nazwa znajdowała się wyłącznie w prywatnym Dokumencie Google. Google zapewnia, że Gemini nie powinien mieć dostępu do takich treści bez zgody użytkownika. W tej historii jest jednak jeszcze bardziej niepokojąca możliwość: sztuczna inteligencja mogła wcale nie czytać dokumentu. Mogła po prostu połączyć ze sobą informacje rozsiane po internecie.

Historia zaczęła się od pozornie niewinnej rozmowy fana z Gemini. Użytkownik pytał sztuczną inteligencję o niezależną grę Operation Octo, tworzoną przez kanadyjskie studio Klub Kofta. Produkcja należy do gatunku tower defense i wykorzystuje oceaniczną tematykę.

Początkowo odpowiedzi Gemini zawierały informacje dotyczące gry, które można było uznać za ciekawostki. Sytuacja zrobiła się znacznie bardziej osobliwa, gdy model został zapytany o przyszłą zawartość produkcji. Według relacji dewelopera Gemini podał prawidłową nazwę jednej z nieujawnionych postaci. Chodziło o „Vantage Tripod”.

Dla twórcy był to moment, w którym zwykła rozmowa z chatbotem zamieniła się w zagadkę dotyczącą prywatności danych.

Deweloper twierdzi bowiem, że pełna nazwa postaci nigdy nie została publicznie opublikowana. Jedynym cyfrowym miejscem, w którym miał znajdować się dokładny zapis „Vantage Tripod”, był prywatny Dokument Google. Jeszcze bardziej zastanawiający jest fakt, że sam twórca nie prowadził z Gemini rozmowy, w której mógłby wcześniej podać tę nazwę.

„Skąd Gemini to wie?” — właśnie to pytanie wywołało burzę

Klub Kofta opisał sprawę na Reddicie, a historia szybko zaczęła krążyć wśród deweloperów i osób zainteresowanych prywatnością generatywnej sztucznej inteligencji. Twórca przejrzał również historię komunikacji na serwerze Discord i nie znalazł wcześniejszej wiadomości, w której pełna nazwa postaci byłaby zapisana. To doprowadziło do najbardziej oczywistego podejrzenia: czy Gemini mogło uzyskać dostęp do prywatnego Dokumentu Google?

Taka sytuacja byłaby niezwykle poważna. Dokumenty Google często zawierają materiały, które nie są jeszcze przeznaczone dla odbiorców. W przypadku twórców gier mogą to być nazwy postaci, scenariusze, grafiki koncepcyjne, plany premier, mechaniki rozgrywki czy informacje dotyczące współpracy z wydawcami.

Problem polega na tym, że na podstawie przedstawionych informacji nie da się potwierdzić, że Gemini rzeczywiście otworzyło prywatny dokument. I właśnie tutaj historia robi się znacznie ciekawsza.

Gemini nie musiało czytać dokumentu

Istnieje druga możliwość, która na pierwszy rzut oka brzmi mniej sensacyjnie, ale z punktu widzenia twórców może być równie niepokojąca. Model językowy mógł po prostu połączyć wiele pozornie nieistotnych informacji.

Nazwa „Vantage Tripod” mogła nie pojawić się publicznie wprost, ale wcześniejsze materiały związane z grą dostarczały pewnych wskazówek. Fani znali między innymi wygląd stworzenia. Kilka tygodni wcześniej Klub Kofta pokazał je przypadkowo podczas rozgrywki w Gartic Phone na serwerze Discord.

Społeczność zaczęła wtedy spekulować, że chodzi o stworzenie określane jako „Ryba Trójnóg”. Do tego dochodziły rozmowy fanów, informacje dotyczące gry oraz inne drobne wskazówki rozsiane w komunikacji społeczności.

Żaden z tych elementów osobno nie musiał zawierać odpowiedzi. Połączone mogły jednak stworzyć wystarczająco wyraźny wzorzec. To fundamentalna różnica.

Jeżeli Gemini rzeczywiście uzyskało dostęp do prywatnego dokumentu, mielibyśmy do czynienia z potencjalnym problemem bezpieczeństwa danych. Jeżeli natomiast model wywnioskował nazwę na podstawie publicznie dostępnych informacji, problem dotyczyłby zdolności sztucznej inteligencji do łączenia pozornie odległych faktów.

Najbardziej niepokojące może być właśnie dopasowywanie wzorców

Duże modele językowe potrafią analizować ogromne ilości informacji i rozpoznawać zależności, których człowiek może nie zauważyć.

W przypadku Operation Octo mogło wystarczyć połączenie kilku elementów: charakterystycznego wyglądu stworzenia, rozmów społeczności, wcześniejszych materiałów dotyczących gry oraz sposobu, w jaki użytkownik formułował pytania.

Model nie musiał więc znać dokumentu zawierającego nazwę „Vantage Tripod”. Mógł dojść do niej na podstawie wcześniejszych danych i przewidywania najbardziej prawdopodobnej odpowiedzi. Tego scenariusza również nie udało się jednak jednoznacznie potwierdzić.

Google deklaruje, że Gemini może korzystać z Dokumentów, ale za zgodą

Google informuje, że Gemini może uzyskiwać dostęp do treści Dokumentów Google w określonych sytuacjach, między innymi wtedy, gdy użytkownik poprosi sztuczną inteligencję o wykonanie zadania dotyczącego dokumentu. Nie wynika z tego jednak, że każdy prywatny dokument użytkownika jest automatycznie dostępny dla modelu.

Google deklaruje, że dane przetwarzane w ramach takiego dostępu są wykorzystywane tymczasowo i nie są po prostu przechowywane przez Gemini jako osobisty zbiór informacji.

To ważne rozróżnienie, ponieważ sama możliwość integracji Gemini z Dokumentami Google nie stanowi dowodu na to, że system wykorzystał prywatny plik Klub Kofta.

Na obecnym etapie brakuje publicznych dowodów pozwalających stwierdzić, że taki dostęp faktycznie nastąpił. A pytanie, skąd Gemini znało „Vantage Tripod”, nadal pozostaje bez odpowiedzi.