Bot do kodowania poszalał w infrastrukturze Amazona. Katastrofa AI wisi w powietrzu

Amazon Web Services przyznał, że jego infrastruktura ucierpiała z powodu co najmniej dwóch awarii związanych z działaniem narzędzi sztucznej inteligencji. Najpoważniejszy incydent miał miejsce w grudniu ubiegłego roku: wewnętrzny bot do kodowania o nazwie Koiro samodzielnie usunął środowisko, na którym pracował, powodując 13-godzinną przerwę w działaniu usługi.

Informacje ujawnił Financial Times, powołując się na wypowiedź starszego pracownika AWS. „Mieliśmy już co najmniej dwie awarie produkcyjne. Inżynierowie pozwolili AI samodzielnie rozwiązać problem bez nadzoru. Awarie były niewielkie, ale całkowicie do przewidzenia" - przyznał anonimowo.

Amazon stara się minimalizować wagę incydentów. Firma twierdzi, że grudniowa awaria dotknęła tylko jednej usługi w części Chin kontynentalnych, a druga w ogóle nie wpłynęła na usługi widoczne dla klientów. Co więcej, Amazon przekonuje, że AI nie była tu prawdziwym winowajcą, a identyczny problem mógłby wywołać dowolne inne narzędzie deweloperskie albo ręczna interwencja człowieka. „W obu przypadkach był to błąd użytkownika, nie błąd AI" - podkreśliła firma.

Czy AI powinna mieć uprawnienia administratora?

Sedno problemu leży w strukturze uprawnień. W AWS narzędzia AI traktowane są jak przedłużenie inżyniera, który z nich korzysta - otrzymują więc te same uprawnienia co człowiek. Inżynierowie pracujący przy obu incydentach nie musieli uzyskiwać dodatkowej zgody przed wprowadzaniem zmian, więc bot po prostu działał dalej bez żadnej kontroli.

Amazon zapewnił, że wdrożył już rozwiązania mające zapobiec podobnym sytuacjom w przyszłości.

Microsoft także przyznał, że niemal 30% jego kodu pisze już sztuczna inteligencja, a ponad 30 tysięcy inżynierów Nvidii korzysta ze specjalnej wersji Cursora. Jednocześnie liczba ofert pracy dla juniorów w branży IT spadła w ciągu trzech lat o 13%, co budzi obawy o przyszłość zawodów technicznych.