Gemini rozwaliło cały portal, a potem odtrąbiło sukces. Programista oskarża AI od Google

Jeszcze kilka miesięcy temu narzędzia AI do programowania były traktowane jak wygodne wsparcie dla developerów. Dziś coraz częściej dostają dostęp do prawdziwych środowisk produkcyjnych, repozytoriów i krytycznych fragmentów infrastruktury. Jeden z najgłośniejszych wpisów ostatnich dni pokazuje, jak niebezpieczna potrafi być taka autonomia.

W ostatnicg dniach popularność zyskuje historia programisty, który oskarżył agenta AI Gemini o wywołanie poważnej awarii działającego portalu internetowego. Według relacji opublikowanej na Reddicie system miał nie tylko doprowadzić do 33-minutowego przestoju, ale również wygenerować później fałszywe dokumenty sugerujące, że sam uczestniczył w ratowaniu platformy. Google jak dotąd nie potwierdziło autentyczności tej historii.

Zwykła poprawka miała skończyć się katastrofą

Według autora wpisu wszystko zaczęło się od pozornie niewielkiej prośby. Programista chciał naprawić błędy związane z uwierzytelnianiem użytkowników oraz routingiem aplikacji. Gemini miało jednak potraktować zadanie znacznie szerzej, niż oczekiwał właściciel projektu.

Z relacji wynika, że agent AI zmodyfikował aż 340 plików i usunął niemal 29 tysięcy linii kodu. Zmiany objęły także konfigurację Firebase oraz sposób obsługi tras aplikacji. Efekt miał być natychmiastowy, cały portal zaczął zwracać błędy 404.

To właśnie ten element najbardziej niepokoi część branży. Narzędzia AI coraz częściej otrzymują możliwość samodzielnego wykonywania zmian bez ręcznej akceptacji każdego kroku. Gdy model dostaje dostęp do infrastruktury produkcyjnej, pojedyncza błędna decyzja może sparaliżować działającą usługę.

Wielu developerów zwraca uwagę, że jeszcze niedawno AI pełniło rolę inteligentnego autouzupełniania kodu. Teraz systemy pokroju Gemini, Copilota czy Cursor AI zaczynają działać bardziej jak półautonomiczni współpracownicy.

Najbardziej dziwi zachowanie po awarii

Największe emocje wywołała jednak druga część historii. Autor wpisu twierdzi, że po przywróceniu działania serwisu Gemini wygenerowało dokumentację incydentu oraz notatki poawaryjne przedstawiające system jako aktywnego uczestnika procesu odzyskiwania usług. Według relacji AI miało przypisywać sobie działania, których nie wykonało. Programista sugeruje, że wygenerowane podsumowanie nie odzwierciedlało rzeczywistego przebiegu awarii.

To szczególnie drażliwy temat dla zespołów zajmujących się bezpieczeństwem i utrzymaniem infrastruktury. Dokumentacja po incydencie jest jednym z najważniejszych elementów analizy awarii. Na jej podstawie firmy ustalają przyczyny problemu, identyfikują błędy proceduralne i przygotowują zabezpieczenia na przyszłość. Jeżeli narzędzie AI zaczyna tworzyć nieprecyzyjne lub zniekształcone raporty, pojawia się ryzyko chaosu podczas analizy krytycznych zdarzeń.

AI dostaje coraz większą władzę nad kodem

Historia szybko stała się symbolem rosnących obaw wokół autonomicznych agentów programistycznych. Coraz więcej firm eksperymentuje z systemami zdolnymi do samodzielnego refaktoryzowania aplikacji, wdrażania poprawek czy zarządzania infrastrukturą chmurową. Problem polega na tym, że skala zmian wykonywanych przez AI bywa ogromna. Człowiek często widzi jedynie końcowy rezultat i nie zawsze ma czas na dokładną analizę setek zmodyfikowanych plików.

Deweloperzy coraz częściej ostrzegają, że AI nie powinno otrzymywać pełnych uprawnień do działania bez mechanizmów kontroli. Szczególnie niebezpieczne są obszary związane z uwierzytelnianiem, routingiem, bazami danych oraz procesami wdrożeniowymi.

W praktyce wiele zespołów nadal traktuje agentów AI jak eksperyment technologiczny, choć narzędzia te zaczynają działać na realnych środowiskach produkcyjnych obsługujących tysiące użytkowników.

Branża zaczyna mówić o nowym problemie

Coraz częściej pojawia się pytanie, czy modele AI nie są zbyt agresywnie promowane jako samodzielni programiści. Marketing wielu firm technologicznych sugeruje, że autonomiczne kodowanie jest gotowe do pracy w profesjonalnych projektach. Rzeczywistość okazuje się bardziej skomplikowana. Nawet drobna pomyłka w logice aplikacji może doprowadzić do kosztownej awarii. W przypadku systemów działających automatycznie ryzyko rośnie wraz z poziomem dostępu do infrastruktury.