AI pisze już większość kodu i generuje mnóstwo błędów. Starsi programiści tracą tygodnie pracy

Sztuczna inteligencja miała uwolnić programistów od żmudnego pisania kodu i przyspieszyć rozwój oprogramowania. W wielu firmach technologicznych ten scenariusz już się realizuje. Narzędzia oparte na dużych modelach językowych generują dziś ogromną część kodu trafiającego do repozytoriów. Menedżerowie są zachwyceni tempem pracy, a zespoły dostarczają nowe funkcje szybciej niż kiedykolwiek wcześniej. Coraz częściej pojawia się jednak pytanie, czy za ten wzrost produktywności nie płaci się później znacznie wyższej ceny.

Nowe badania i doświadczenia firm pokazują niepokojący trend. Kod tworzony przez AI często zbiera bardzo dobre oceny podczas przeglądów, ale po wdrożeniu do środowiska produkcyjnego zaczynają wychodzić na jaw problemy, których wcześniej nikt nie zauważył.

AI pisze, seniorzy sprzątają

Jeszcze kilka lat temu doświadczeni inżynierowie poświęcali większość czasu na projektowanie architektury systemów, rozwiązywanie złożonych problemów technicznych i rozwijanie nowych produktów. Dziś coraz większa część ich pracy polega na analizowaniu, poprawianiu i refaktoryzacji kodu wygenerowanego przez sztuczną inteligencję.

Według danych przytaczanych przez branżowych analityków, inżynierowie odpowiedzialni za niezawodność systemów oraz zespoły DevOps potrafią poświęcać nawet jedną trzecią tygodnia pracy na naprawianie skutków błędów pozostawionych przez AI. To zadania, które wcześniej nie istniały na taką skalę.

Paradoks polega na tym, że wygenerowany kod często wygląda bardzo profesjonalnie. Jest uporządkowany, zachowuje spójny styl i zazwyczaj nie zawiera oczywistych błędów składniowych. Właśnie dlatego tak łatwo zdobywa zaufanie recenzentów.

Kod wygląda dobrze, dopóki nie spotka prawdziwych użytkowników

Największy problem nie dotyczy tego, czy sztuczna inteligencja potrafi napisać działający fragment programu. Potrafi. Kłopot pojawia się wtedy, gdy taki kod trafia do skomplikowanego środowiska produkcyjnego. Modele AI świetnie radzą sobie z przewidywalnymi scenariuszami. Gorzej wypadają w sytuacjach granicznych, przy nietypowych interakcjach między usługami, problemach współbieżności czy nieoczekiwanych zmianach stanu aplikacji.

To właśnie tam rodzą się błędy, których nie widać podczas przeglądu kodu. Program działa poprawnie podczas testów, a kilka dni później użytkownicy zaczynają zgłaszać awarie, problemy z logowaniem lub nieprawidłowe działanie funkcji. W efekcie organizacje coraz częściej odkrywają, że wysoka jakość oceniana na etapie code review nie przekłada się na równie wysoką jakość działania gotowego produktu.

Lawina problemów po wdrożeniu

Dane z branży pokazują, że w ciągu ostatnich miesięcy zdecydowana większość firm korzystających z generatywnej AI do tworzenia oprogramowania doświadczyła przynajmniej jednego incydentu produkcyjnego związanego z takim kodem. Problemy obejmują błędy integracyjne, naruszenia bezpieczeństwa, nieprawidłowości w przetwarzaniu danych oraz awarie usług. W wielu przypadkach nie są to pojedyncze usterki, lecz całe serie drobnych problemów, które zaczynają pojawiać się jednocześnie.

Szczególnie niepokojące są kwestie bezpieczeństwa. Kod wygenerowany przez AI potrafi wyglądać wzorowo, a jednocześnie zawierać luki, które ujawniają się dopiero przy większym obciążeniu lub w specyficznych scenariuszach użytkowania. Według przywoływanych analiz, rozwiązania generowane przez sztuczną inteligencję mogą wprowadzać niemal dwukrotnie więcej krytycznych problemów środowiska wykonawczego niż kod tworzony i recenzowany wyłącznie przez ludzi.

Dlaczego programiści zaczęli ufać AI za bardzo?

Eksperci wskazują na zjawisko, które coraz częściej obserwuje się w zespołach deweloperskich. Gdy kod wygląda profesjonalnie, recenzenci poświęcają mu mniej uwagi. Powstaje efekt psychologiczny przypominający automatyczne zaufanie do dobrze przygotowanego dokumentu. Czytelny styl i logiczna struktura sprawiają wrażenie wysokiej jakości, nawet jeśli pod powierzchnią ukrywają się poważne problemy.

W praktyce oznacza to, że część zespołów przestała analizować każdą linię kodu generowanego przez AI. Fragmenty przygotowane przez modele językowe trafiają do produkcji szybciej niż rozwiązania pisane samodzielnie przez programistów. Im większe tempo wdrożeń, tym większe ryzyko, że błędy zostaną wykryte dopiero przez klientów.

Obserwowalność staje się nowym priorytetem

Firmy technologiczne nie zamierzają rezygnować z AI. Korzyści związane z szybkością tworzenia oprogramowania są zbyt duże, aby odwrócić ten trend. Zamiast tego organizacje inwestują coraz więcej w narzędzia monitorujące działanie aplikacji po wdrożeniu. Logi, ślady diagnostyczne i zaawansowana telemetria stają się obowiązkowym elementem nowoczesnych projektów.

Coraz częściej programiści wydają sztucznej inteligencji dodatkowe polecenia, nakazując jej automatyczne dodawanie mechanizmów monitorowania do generowanego kodu. Dzięki temu zespoły mogą szybciej wykrywać problemy pojawiające się po uruchomieniu aplikacji. Branża zaczyna dostrzegać ograniczenia obecnych modeli AI. Narzędzia te świetnie radzą sobie z tworzeniem kodu, ale nadal nie rozumieją rzeczywistego środowiska, w którym ten kod będzie działał.

AI nie zabiera pracy seniorom. Daje im nową

Jeszcze niedawno pojawiały się prognozy, według których sztuczna inteligencja znacząco ograniczy zapotrzebowanie na doświadczonych programistów. Rzeczywistość wygląda inaczej.

W wielu organizacjach rola seniorów staje się wręcz ważniejsza niż wcześniej. To oni odpowiadają za wychwytywanie błędów, analizowanie awarii oraz ocenę jakości rozwiązań proponowanych przez modele językowe.

AI przyspiesza tworzenie oprogramowania, ale nie eliminuje potrzeby ludzkiego doświadczenia. Im więcej kodu generują maszyny, tym większe znaczenie mają specjaliści potrafiący przewidzieć skutki działania tego kodu w realnych warunkach.

Na razie firmy nie wycofują się z wykorzystania sztucznej inteligencji. Wzrost produktywności jest zbyt kuszący. Coraz wyraźniej widać jednak, że prawdziwym wyzwaniem nie jest już napisanie kodu. Najtrudniejsze pozostaje upewnienie się, że będzie działał wtedy, gdy skorzystają z niego miliony użytkowników.